
Neutrino-1 8B: کاهش ۸ برابری حجم وزنها با فرمت ترنری اختصاصی
شرکت Fermion Research مدل Neutrino-1 8B را معرفی کرد که با استفاده از یک فرمت وزنی ترنری، اثر حافظهای مدل را تا ۸۷.۵٪ کاهش میدهد. این مدل امکان استنتاج سریع روی سختافزارهای…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۱۰۱ مقاله منتشر شده

شرکت Fermion Research مدل Neutrino-1 8B را معرفی کرد که با استفاده از یک فرمت وزنی ترنری، اثر حافظهای مدل را تا ۸۷.۵٪ کاهش میدهد. این مدل امکان استنتاج سریع روی سختافزارهای…

اپلیکیشن Yap یک ابزار دیکتهٔ صوتی متنباز برای macOS 26 است که تماماً روی دستگاه اجرا میشود. این ابزار با استفاده از چارچوبهای جدید اپل، سرعت و دقت بالاتری نسبت به مدل Whisper…

استقرار محلی مدل FLUX 2 Klein 9B گلوگاه اصلی را نه در هزینه هر تصویر، بلکه در صف انتظار ایجاد میکند. انتخاب بین حالتهای Distilled و Base تعیین میکند که آیا سختافزار شما یا…

یک چارچوب مرجع جدید برای سال ۲۰۲۶، پنج الگوی متمایز برای استقرار AI در بخش حقوق تعریف کرده است. این مدلها تعادلی میان قدرت پردازشی و مخاطرات حریم خصوصی، از سرورهای داخلی تا حریم…

رایانش لبه با انتقال پردازش از ابر به سختافزار دستگاه، تأخیر را کاهش و حریم خصوصی را افزایش میدهد. توسعهدهندگان اکنون بر بهینهسازی مدلها برای مدیریت منابع محدود موبایل تمرکز…

مایکروسافت مدل فشرده و کد-محور MAI-Cyber-1-Flash را برای مدیریت ۹۰٪ وظایف امنیتی عرضه کرد. این استراتژی هزینه عملیات را نصف کرده و دقت سیستم در شناسایی تهدیدات را افزایش داده است.

توزیع جدید Shadowfetch بر پایه دبیان ساخته شده تا نصب مدلهای زبانی بزرگ و عاملهای هوش مصنوعی را بهصورت آفلاین ساده کند. این سیستم فعلاً در مراحل اولیه توسعه است و باگهای نصب…

پروژه متنباز Transdom نشان داد که میزبانی شخصی موتورهای ترجمه میتواند هزینههای API و نشت دادهها را حذف کند. این سامانه با استفاده از کوانتش int8 و حافظه پنهان معنایی، سرعت…

دستیابی به دقت ۹۹٪ در مدلهای بینایی ماشین تضمینکنندهٔ موفقیت محصول نیست. چالش اصلی در مهندسی «حلقهٔ حس-تصمیم-عمل» و مدیریت بودجهٔ تأخیر (Latency) در محیطهای سختافزاری واقعی…

ابزار Rescript جایگزینی رایگان و متنباز برای Descript است که امکان ویرایش ویدیو را از طریق تغییر متن ترنسکریپت فراهم میکند. این ابزار بهطور کامل در مرورگر اجرا شده و نیاز به…

ابزار متنباز JobRadar با استفاده از مدلهای زبانی کوچک محلی، جستوجوی هشت تخته شغلی را تجمیع و موقعیتها را بر اساس پروفایل کاربر امتیازدهی میکند. این ابزار با انتقال پردازش به…

ابزار جدید Vercel Labs با حذف نیاز به موتور V8 و Node.js، کدهای TypeScript را به فایلهای اجرایی کوچک و سریع تبدیل میکند. این فناوری زمان راهاندازی برنامهها را به ۲.۴…