موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۶۷۷ مقاله منتشر شده
اپلیکیشن RollTab با استفاده از یک ترنسفورمر تخصصی، قادر است ملودیهای پیانو را بهصورت آنی و روی دستگاه (On-device) تکمیل کند. این پروژه ثابت میکند که پاکسازی دقیق دادهها و…
پژوهش جدید دانشگاه استنفورد نشان میدهد مدلهای زبانی کوچک (SLM) که روی سختافزار محلی اجرا میشوند، بهسرعت در حال پر کردن شکاف عملکرد با مدلهای ابری هستند. این تغییر میتواند…
سازمانهای بهداشتی برای حفظ کنترل قانونی و فنی بر دادههای بیماران، به سمت مدلهای زبانی بزرگ درونسازمانی حرکت میکنند. این رویکرد مانع از خروج اطلاعات حساس به ارائهدهندگان…
اجرای مدلهای زبانی بزرگ بهصورت محلی نیازمند حافظهای بیش از حجم وزنهای مدل است. حافظهٔ KV Cache در پنجرههای متنی بلند میتواند تا ۱۴ گیگابایت فضای اضافی اشغال کند و باعث کندی…
یک رویکرد جدید در شبکههای عصبی گراف احتمالی (PGNN) امکان اجرای مدلهای پیشبینی سیل را روی سختافزارهای کممصرف لبه فراهم کرد. محققان با ترکیب تقطیر دانش و کوانتش ۸ بیتی، مصرف…
متا با عرضه اپلیکیشن اختصاصی Meta AI برای مک، دستیار خود را از یک چتبات عمومی به ابزاری حرفهای برای تبلیغکنندگان تبدیل کرد. این ابزار اکنون دسترسی مستقیم به حسابهای تجاری…
پلتفرم Unsloth با معرفی نسخه ۳.۰ کوانتش برای مدل Qwen3.8-27B، دقت مدلهای فشرده را ۱۰٪ بهبود بخشید. این بهروزرسانی با استفاده از مجموعهدادههای کالیبراسیون دقیقتر، امکان اجرای…
استقرار هوش مصنوعی در پزشکی دقیق نیازمند معماری ابر خصوصی برای جداسازی دادههای حساس بیماران است. این زیرساخت اختصاصی از دسترسی غیرمجاز به سوابق ژنومیک جلوگیری کرده و قابلیت…
شرکت Waymo مدل Gemini گوگل را بهعنوان دستیار صوتی در تاکسیهای Ojai ادغام کرد تا کنترل کابین و پاسخ به پرسشها را مدیریت کند. این سیستم بهطور کامل از لایهی رانندگی خودکار جدا…
شرکت Comcast قابلیت تشخیص حرکت مبتنی بر فرکانسهای رادیویی را به مودمهای Xfinity اضافه کرد. اگرچه این ابزار برای امنیت خانه تبلیغ میشود، اما بندهای قانونی اجازه اشتراکگذاری این…
متا یک اپلیکیشن اختصاصی برای مک عرضه کرد که میتواند محتوای صفحه نمایش کاربر را تحلیل کند و به ابزارهای گوگل متصل شود. این اقدام تلاشی برای تبدیل یک چتبات اجتماعی به ابزاری برای…
یک راهنمای معماری جدید نشان میدهد که لگهای پردازشی در هوش مصنوعی اندروید معمولاً ناشی از خط لوله (Pipeline) است، نه خودِ مدل. با جداسازی پیشپردازش، استنتاج و ادراک، میتوان…