
درون مکانیزم GQA و توالیهای فشرده برای ارتقای کارایی مدلهای هوش مصنوعی
کتابخانهی xFormers با جایگزینی محاسبات سنگین ماتریسی با هستههای بهینه، مصرف حافظهی GPU را برای مدلهای با پنجرههای متنی بلند به شدت کاهش میدهد. این ابزار با پیادهسازی…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۶۶۱ مقاله منتشر شده

کتابخانهی xFormers با جایگزینی محاسبات سنگین ماتریسی با هستههای بهینه، مصرف حافظهی GPU را برای مدلهای با پنجرههای متنی بلند به شدت کاهش میدهد. این ابزار با پیادهسازی…

راهنمای عملی خانواده مدلهای SmolLM2 تفاوتهای حیاتی بین مدلهای بنیادی، تنظیمشده برای دستورات و مدلهای گفتگو-محور را بررسی میکند. درک این سه مرحله آموزشی توضیح میدهد چرا یک…

دولت آمریکا بهدلیل نگرانیهای امنیت ملی، شرکت Anthropic را مجبور به توقف دسترسی به مدل کدنویسی Fable 5 کرد. این اتفاق ریسک وابستگی کسبوکارها به یک مدل واحد را برجسته کرد و نیاز…

شرکت اسنپ با معرفی عینک Specs، سختافزاری ۲۱۹۵ دلاری را به عنوان یک «کامپیوتر شفاف» معرفی کرد. این محصول بهجای تمرکز بر هوش مصنوعی، بر لایهگذاری اطلاعات دیجیتال روی دنیای واقعی…

انویدیا ابزار cuTile Rust را معرفی کرد تا برنامهنویسان بتوانند کرنلهای GPU را با امنیت حافظه و بدون ریسک Data Race بنویسند. این سیستم عملکردی نزدیک به cuBLAS دارد اما خطاهای…

نسخه ۶.۷ محیط دسکتاپ KDE Plasma با تمرکز بر انعطافپذیری در چیدمانهای چند-مانیتوری و بهبودهای ساختاری در مدیریت سختافزار منتشر شد. این بهروزرسانی قابلیتهای کلیدی نظیر…

نسخه بتای AnduinOS 2.0 با بازطراحی کامل معماری و جایگزینی سیستمهای سنتی با ساختار ماژولار مبتنی بر XML عرضه شد. این سیستمعامل با تمرکز بر حریم خصوصی، تجربهای شبیه به ویندوز را…

اپل و گوگل در حال جایگزینی منوهای پیچیده اتوماسیون با توصیفات متنی ساده هستند. کاربران اکنون میتوانند میانبرها و ویجتهای پیچیده را صرفاً با توصیف هدف خود برای سیری یا جمینای…

انتخاب چمنزن رباتیک بیش از آنکه به برند وابسته باشد، به تکنولوژی ناوبری و عوارض زمین بستگی دارد. سیستمهای جدید مبتنی بر هوش مصنوعی نصب سادهتری دارند اما در محیطهای پیچیده هنوز…

هستهی لینوکس ۷.۱ با معرفی درایور بومی NTFS، سرعت نوشتن دادهها را تا ۱۱۰٪ افزایش داد. این بهروزرسانی با حذف پشتیبانی از پردازندههای قدیمی، امنیت و کارایی سیستم را در…

در حالی که تمرکز اپل بر هوش مصنوعی است، iOS 27 ابزارهای کاربردی جدیدی برای مدیریت حافظه و پایداری شبکه معرفی کرده که روی سختافزارهای قدیمیتر نیز اجرا میشوند. این بهروزرسانی…

توزیع RakuOS با معرفی یک سیستم ترکیبی، امنیت هسته غیرقابل تغییر را با انعطافپذیری مدیریت بستههای بومی ادغام کرده است. این سیستم اجازه میدهد کاربران بدون بهخطر انداختن پایداری…