
کرنلهای Triton سرعت استنتاج مدلهای کمرتبه را ۳.۷۶ برابر کرد
پژوهشگران با طراحی کرنلهای سفارشی Triton، گلوگاههای حافظهای در فشردهسازی مدلهای Block Low-Rank را برطرف کردند. این بهینهسازیها سرعت استنتاج را در سختافزارهای محدود مانند…
موضوع
Open-source models, open weights, local hosting, licensing
۱٬۹۵۰ مقاله منتشر شده

پژوهشگران با طراحی کرنلهای سفارشی Triton، گلوگاههای حافظهای در فشردهسازی مدلهای Block Low-Rank را برطرف کردند. این بهینهسازیها سرعت استنتاج را در سختافزارهای محدود مانند…

پلتفرم Artifipedia با انتشار یک نقشهٔ تعاملی، ۵۶ مفهوم بنیادی هوش مصنوعی و ۱۵۰ رابطهٔ بین آنها را ترسیم کرده است. این ابزار به کاربران کمک میکند تا وابستگیهای فنی پیچیده میان…

رمزنگاری کاملاً همریخت (FHE) امکان پردازش دادههای رمزگذاریشده بدون نیاز به رمزگشایی را فراهم میکند، اما سربار محاسباتی عظیم آن، استنتاج در مدلهای زبانی بزرگ را فعلاً غیرممکن…

سهم مدلهای بازمتن و وزنباز از بازار توکنهای جهانی به ۶۵٪ رسیده و تسلط گوگل، OpenAI و Anthropic را به شدت کاهش داده است. این تغییر مسیر نتیجهی بسته شدن شکاف عملکردی و کاهش ۵۰…

کنسرسیوم تحقیقاتی آلمان مدل Soofi S 30B-A3B را منتشر کرد؛ یک مدل ترکیبی MoE که در زبانهای انگلیسی و آلمانی از مدلهای باز رقیب پیشی گرفته است. این مدل با پنجره متنی یک میلیون…

شیائومی مدل Robotics-U0 را با ۳۸ میلیارد پارامتر بهعنوان نخستین معماری ترنسفورمر بازمتن برای یکپارچهسازی وظایف رباتیک معرفی کرد. این مدل تولید صحنه، ویدیو، تصویر و انتقال تجسمی…

پروژه Argus ابزار libargus را برای اجرای مدلهای زبانی و چندوجهی در جاوا ۲۲+ معرفی کرد. این سیستم با دور زدن حافظه Heap، تأخیرهای ناشی از Garbage Collection را کاملاً حذف کرده و…

مقامات اتحادیه اروپا در حال بررسی گسترش پروتکلهای نظارتی Chat Control هستند تا تعاملات کاربران با چتباتها را نظارت کنند. این اقدام باعث میشود پرامپتها مانند پیامهای شخصی…

یک برنامهنویس با ترکیب ابزار Playwright و مدل بهینهشدهی Gemma 3 1B، سیستمی برای تبدیل پستهای نامنظم گروههای اجارهخانه فیسبوک به یک پایگاهداده قابل جستوجو ساخته است. این…

پلتفرم xAgent برخلاف چتباتهای رایج، عاملهای هوش مصنوعی را به صورت فایلهای اجرایی سمت سرور مدیریت میکند. این سیستم با معرفی یک سیستم فایل مجازی و بارگذاری پویا-ی مهارتها،…

ابزار متنباز deja-vu با تبدیل فایلهای لاگ نشستهای Claude Code و Codex به یک لایهی حافظه محلی، مشکل فراموشی عاملها را حل میکند. این ابزار تمام دادهها را بهصورت محلی ذخیره…

پژوهشهای جدید نشان میدهد بردارهای هدایت (Steering Vectors) یک مدل زبانی را میتوان با یک چرخش ریاضی ساده به مدل دیگری از خانوادهای متفاوت منتقل کرد. این یافته ثابت میکند…