
«تنظیمات نادرست»؛ عامل اصلی افزایش هزینههای استنتاج در مدلهای زبانی
استراتژیهای رمزگشایی مانند Temperature و Top-p تعیین میکنند که مدل زبانی چگونه توکنها را انتخاب کند. تنظیم نادرست این پارامترها منجر به حلقههای تکراری یا متون نامفهوم میشود…
موضوع
۳٬۴۴۵ مقاله منتشر شده

استراتژیهای رمزگشایی مانند Temperature و Top-p تعیین میکنند که مدل زبانی چگونه توکنها را انتخاب کند. تنظیم نادرست این پارامترها منجر به حلقههای تکراری یا متون نامفهوم میشود…

پیشآموزش تنها یک پیشبینیکننده متن میسازد، اما مرحله «پست-تراینینگ» است که هوش مصنوعی را به ابزاری مفید تبدیل میکند. این فرآیند با استفاده از تنظیم نظارتشده و بهینهسازی…

بنچمارکهای جدید تراشه M2 نشان میدهد واحد عصبی (ANE) در محاسبات ماتریسی با وزنهای ثابت، بهطور چشمگیری از GPU و شتابدهنده AMX پیشی میگیرد. این یافتهها شکاف عمیقی را میان…

سرمایهگذاری در هوش مصنوعی از ابزارهای همهمنظوره (Horizontal) به سمت پلتفرمهای تخصصی صنعتمحور (Vertical) تغییر مسیر داده است. در حالی که مدلهای بنیادی همچنان بیشترین سرمایه را…

عامل هوش مصنوعی جدید متا با نام Muse به جایگاه دوم اپاستور iOS آمریکا رسید، اما آمار دانلودهای اولیه آن بسیار کمتر از موفقیتهای پیشین متا و رقیب اصلیاش، ChatGPT است. این عرضه…

استودیو ZeroShot ابزار ZeroGuide را معرفی کرد؛ سیستمی مبتنی بر MCP که نقشههای فنی حجیم را به جلسات کوچینگ تعاملی تبدیل میکند. این رویکرد با جایگزینی مستندات ایستا با اجرای…

شرکت Shadow با جایگزینی هماهنگکننده مرکزی با یک خط لوله رویدادمحور، تأخیر تولید محتوای چندوجهی را از ۴.۲ ثانیه به ۲.۶ ثانیه رساند. این معماری جدید با استفاده از سیستم SSE و…

کوانتایز کردن مدلهای با وزنهای باز برای سختافزار اپل سیلیکون، امکان اجرای هوش مصنوعی را بهصورت کاملاً آفلاین فراهم میکند. این رویکرد ریسکهای حریم خصوصی مدلهای ابری، مانند…

پلتفرم صوتی Pocket FM با اتوماسیون بخش اعظم کاتالوگ خود، نرخ درآمد سالانه را به ۵۰۰ میلیون دلار رسانده است. این شرکت با کاهش ۸۰ برابری هزینههای تولید، حجم محتوا و نرخ بازگشت…

اوپنایآی با معرفی API مدل GPT-Live-1، قابلیت مکالمه دوطرفه و همزمان را برای توسعهدهندگان فراهم کرد. این مدل با کاهش شدید تأخیر و افزایش دقت در فراخوانی ابزارها، فاصله میان…

یک کامپایلر و محیط زمان اجرا به نام BPF Capsule با دور زدن محدودیتهای سختگیرانه verifier در eBPF، اجرای برنامههای پیچیده C و Rust را در هسته لینوکس ممکن کرد. این پروژه موفق شد…

اوپنایآی یک عامل داده (Data Agent) برای نسخه ChatGPT Work معرفی کرد که تحلیل شاخصهای شرکتی و ساخت داشبوردهای تعاملی را از طریق زبان طبیعی ممکن میکند. این ابزار با انبار…