پرش به محتوای اصلی

موضوع

تجربه توسعه‌دهندگان

۳٬۶۸۵ مقاله منتشر شده

آزمایش واحد اعتبارسنج خروجی سفارشی قبل از اتصال به مدل
آموزش کاربردی

جداسازی اعتبارسنج‌ها از استنتاج؛ راهکاری برای کاهش هزینه و تأخیر در تست LLM

تفکیک اعتبارسنج‌های قطعی از فرآیند استنتاج مدل، امکان تست خط‌لوله‌های هوش مصنوعی را در چند میلی‌ثانیه و بدون هزینه API فراهم می‌کند. با تبدیل اعتبارسنج‌ها به توابع خالص، تیم‌ها…

۶ دقیقه خواندن۱
نوار ابزار ویندوز با دکمه‌های میکروفون و کیبورد، نشان‌دهنده فعال‌سازی صوتی Codex
آموزش کاربردی

تست واحدِ قالب‌های پرامپت؛ راهکار جلوگیری از افت کیفیت خاموش در LLM

بسیاری از شکست‌های مدل‌های زبانی ناشی از خطاهای لایه‌ی رندرینگ پرامپت است که به‌دلیل نبود تست، نادیده گرفته می‌شوند. با تبدیل رندرکننده به یک تابع خالص و به‌کارگیری تست‌های مبتنی…

۵ دقیقه خواندن
نقش مجموعه داده کالیبراسیون در فرآیند کوانتیزاسیون مدل‌های یادگیری ماشین
آموزش کاربردی

تحلیل کوانتش: عدم تطابق داده‌های کالیبراسیون عامل فروپاشی فرمت خروجی است

داده‌های کالیبراسیون دانش جدیدی به مدل نمی‌دهند، بلکه تعیین می‌کنند کدام خطاهای گرد کردن برای ورودی‌های خاص قابل‌تحمل هستند. عدم تطابق این داده‌ها با محیط عملیاتی منجر به افت شدید…

۵ دقیقه خواندن
مهارت عامل‌تان بارگذاری می‌شود، اما هرگز اجرا نمی‌شود. دلیلش این است.
آموزش کاربردی

«توصیفات کلی»؛ عامل اصلی شکست عامل‌های هوش مصنوعی در شناسایی مهارت‌ها

عامل‌های هوش مصنوعی اغلب مهارت‌های درست را نادیده می‌گیرند چون توصیفات آن‌ها بیش از حد کلی است. تغییر رویکرد از توصیف «موضوعی» به «محرک‌محور» باعث می‌شود عامل دقیقاً تشخیص دهد چه…

۳ دقیقه خواندن۳
خطای کمبود حافظه در مرحله کوانتیزاسیون، نه استنتاج
آموزش کاربردی

درون فرآیند کوانتش؛ تضاد میان وزن‌های دقت‌بالا و بهینه‌سازی حافظه

فرآیند کوانتش مدل‌ها به‌دلیل نیاز به وزن‌های دقت‌بالا و محاسبات آماری، حافظه بسیار بیشتری نسبت به استنتاج مصرف می‌کند. شناخت تفاوت‌های حافظه‌ای در متدهای GPTQ، AWQ و GGUF برای…

۵ دقیقه خواندن۲
کوانتایز کردن مدل تعبیه: چه کیفیتی واقعاً از دست می‌دهید
آموزش کاربردی

آیا می‌توان حافظهٔ ایندکس‌های برداری را بدون افت کیفیت کاهش داد؟

استفاده از کوانتش باینری می‌تواند فضای ذخیره‌سازی ایندکس‌های برداری را تا ۳۲ برابر کاهش دهد و ۹۶٪ از کیفیت بازیابی را حفظ کند. موفقیت این روش به شدت به پیاده‌سازی صحیح…

۵ دقیقه خواندن۱
قرنطینه کردن تست ناپایدار LLM بدون حذف آن
آموزش کاربردی

قرنطینه در برابر حذف؛ استراتژی مدیریت تست‌های ناپایدار در LLM

حذف تست‌های ناپایدار در خطوط لوله هوش مصنوعی باعث از دست رفتن دانش سیستمی می‌شود. استراتژی «قرنطینه» اجازه می‌دهد تست‌ها بدون مسدود کردن ادغام کدها اجرا شوند تا رگرسیون‌ها همچنان…

۶ دقیقه خواندن۲
مشکل دریافت لهجه کبک به جای فرانسه استاندارد از هوش مصنوعی
آموزش کاربردی

خطای «وارونگی انگلیسی»؛ دلیل شکست پرامپت‌های عمومی در بومی‌سازی فرانسوی کبک

پرامپت‌های استاندارد هوش مصنوعی اغلب فرانسوی کبک را نسخه‌ای عامیانه از فرانسوی فرانسه می‌پندارند، در حالی که نوشتار رسمی در کبک در برابر وام‌واژه‌های انگلیسی مقاوم‌تر است. دستیابی…

۵ دقیقه خواندن۲
بهینه‌سازی ۲۳۲ برابری هسته GPU با Codex در مسئله qr_v2: از تحقیق خودکار تا اجرا
آموزش کاربردی

بهینه‌سازی هسته‌های GPU با Codex؛ دستیابی به سرعت ۲۳۲ برابر در محاسبات QR

یک توسعه‌دهنده با استفاده از مدل Codex و یک چرخه پژوهشی خودکار، سرعت اجرای هسته‌های تجزیه QR را ۲۳۲ برابر نسبت به خط‌مبنای PyTorch افزایش داد. این دستاورد نشان می‌دهد که تبدیل…

۲۴ دقیقه خواندن۲
ساخت دستیار صوتی هندی برای دانشجویان رباتیک: یادگیری محدودیت‌های پرامپت‌ها
آموزش کاربردی

شکستِ پرامپت‌ها در اجرای حفاظ‌های امنیتی؛ درس‌هایی از ساخت یک معلم صوتی

توسعه یک عامل صوتی برای دانشجویان رباتیک نشان داد که قوانین حیاتی ایمنی و مسیریابی نباید در پرامپت‌ها نوشته شوند، بلکه باید در کد ابزارها سخت‌افزاری شوند. این پروژه معماری…

۱۳ دقیقه خواندن۳