اجرای مدل ۲.۸ تریلیون پارامتری Kimi K3 روی یک دستگاه مکبوک
پروژه Deltafin با استفاده از استریم کردن وزنها از دیسک، اجرای مدل عظیم Kimi K3 را روی مکهای اپل ممکن کرد. این دستاورد نشان میدهد که گلوگاه اجرای مدلهای غولپیکر از ظرفیت رم به…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۲٬۰۴۹ مقاله منتشر شده
پروژه Deltafin با استفاده از استریم کردن وزنها از دیسک، اجرای مدل عظیم Kimi K3 را روی مکهای اپل ممکن کرد. این دستاورد نشان میدهد که گلوگاه اجرای مدلهای غولپیکر از ظرفیت رم به…
کلید اختصاصی Copilot در لپتاپهای جدید ویندوزی اغلب جایگزین کلیدهای حیاتی مانند Ctrl راست شده است. کاربران اکنون میتوانند با استفاده از تنظیمات داخلی ویندوز یا ابزار PowerToys،…
یک مهندس امنیت دریافت که ساختارهای پیچیده و تو در تو باعث شکست مدلهای کوچک مانند Qwen 2.5-Coder در تولید خروجیهای ساختاریافته میشوند. با تخت کردن اسکیما و ایجاد یک حلقه بازخورد…
یک الگوی تولیدی جدید با انتقال پردازش تشخیص چهره به مرورگر، هزینههای استنتاج سرور را به صفر رسانده است. این سیستم با استفاده از یک زنجیره جایگزین (Fallback) از مدلهای مختلف،…
اپل با انتشار iOS 26.6، نمایهسازی دادههای داخلی دستگاه را برای قابلیتهای پیشرفته سیری در iOS 27 بهینه کرد. این بهروزرسانی همچنین ۹۱ حفره امنیتی حیاتی را در اکوسیستم اپل مسدود…
ابزار Personal Computer شرکت Perplexity اکنون روی ویندوز فعال شده و به هوش مصنوعی اجازه میدهد مستقیماً با فایلها و برنامههای محلی تعامل کند. این سیستم به عنوان یک کارمند…
ابزار Projektor با استفاده از پروتکل MCP، مدیریت تیکتها و برنامهریزی اسپرینتها را بهطور کامل به عاملهای هوش مصنوعی میسپارد. این سیستم بر بستر زیرساخت Cloudflare اجرا میشود…
شرکت Sandbar با معرفی حلقهٔ هوشمند Stream، امکان ثبت یادداشتها و دیکتهٔ متنی را از طریق یک تاچپد کوچک روی انگشت فراهم کرده است. این سختافزار برخلاف ضبطکنندههای محیطی، بر…
پارادایم جدید آموزش مدلها، نقش مدلهای زبانی بزرگ را از مصرفکننده داده به تولیدکننده آن تغییر داده است. با تولید برنامههای درسی مصنوعی، مدلهای گرانقیمت میتوانند هوش خود را…
بسیاری از عاملهای هوش مصنوعی در محیط عملیاتی بهدلیل نبود حافظه پایدار و حلقههای شکننده API شکست میخورند. معماری جدید با تفکیک استدلال از حافظه محلی و استفاده از مدلهای…
یک گردشکار فنی جدید امکان اجرای مدل بسیار فشرده Bonsai-27B را روی سختافزارهای معمولی فراهم کرد. کاربران با استفاده از نسخه اختصاصی PrismML از llama.cpp میتوانند این مدل ۱-بیتی…
پلتفرم BizNode Pro امکان میزبانی ۵ بات تلگرام مستقل را روی سختافزار کاربر فراهم میکند. این سیستم با حذف وابستگی به سرویسهای ابری و توکنهای پولی، مدیریت هوش مصنوعی را به محیط…