موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۱۰۹ مقاله منتشر شده
فورد یک چتبات مبتنی بر هوش مصنوعی برای اپلیکیشنهای موبایل خود عرضه کرد که به مالکان اجازه میدهد دادههای لحظهای خودرو و دفترچه راهنما را استعلام کنند. این سیستم تا سال ۲۰۲۷ از…
بهرهوری هوش مصنوعی به انتخاب درست میان CPU، GPU و تراشههای تخصصی ASIC بستگی دارد. در حالی که GPUها در مقیاس کوچک غالب هستند، تراشههای عصبی و لبهای در حال تغییر مرزهای محاسبات…
متا مدل Muse Glimmer را به عنوان یک مدل وزنباز ۳۰ میلیارد پارامتری برای اجرای محلی عاملهای هوش مصنوعی منتشر کرد. این مدل با استفاده از کوانتش ۴ بیتی و رمزگشایی گمانهزنانه، روی…
محکهای استاندارد هوش مصنوعی با نادیده گرفتن نوسانات سختافزاری موبایل، نتایجی گمراهکننده ارائه میدهند. چارچوب جدید تست مدل MiniMax H3 بر توان بازیابی سیستم پس از قطع اتصال…
موج جدیدی از استارتاپها در تلاشاند تا معماری استاندارد ترنسفورمر را جایگزین کنند تا هزینههای سرسامآور انرژی و محدودیتهای پنجره متنی را حل کنند. این شرکتها با استفاده از…
شرکت Multiverse Computing با معرفی یک سیستم کشینگ آفلاین و تابع زیان جدید، نیاز به حافظه VRAM برای تقطیر مدلهای بزرگ را بهشدت کاهش داد. این دستاورد اجازه میدهد فرآیند…
شرکت BizNode یک اپراتور تجاری محلی معرفی کرد که بدون نیاز به ابر، تاریخچه گفتگوها را به خاطر میسپارد. این سامانه با استفاده از سختافزار کاربر، مدیریت مشتریان و جذب لیدها را…
پروژه Klepton با حذف نیاز به کامپایل JIT، اجرای اپلیکیشنهای VR اندرویدی را روی اپل ویژن پرو و مکاواس ممکن کرد. این ابزار با ترجمه کتابخانههای اندروید به فرمتهای سازگار با…
پروژه Lumabri با توزیع وزنها و محاسبات میان گرههای Peer-to-Peer، اجرای مدلهای غولپیکر ترکیب خبرهها را بدون نیاز به GPU ممکن کرده است. این سیستم خروجیهای کاملاً یکسانی را روی…
شرکت Runway دسترسی به ابزارهای خود را با انتشار اپلیکیشن اندروید گسترش داد، اما قابلیتهای کلیدی مانند ماسکگذاری دقیق و گردشکارهای سفارشی همچنان محدود به نسخه دسکتاپ هستند.…
پلتفرم متنباز OpenChamber محیطی برای توسعه عاملهای هوش مصنوعی فراهم میکند که اجرای همزمان ۵ مدل مختلف را ممکن میسازد. تمرکز این ابزار بر حریم خصوصی و تداوم فعالیت عاملهاست،…
ابزار متنباز Meetily با اجرای مدلهای تبدیل گفتار به متن روی سختافزار کاربر، نیاز به اشتراکهای ماهانه و آپلود دادهها در فضای ابری را حذف کرد. این ابزار حریم خصوصی جلسات حساس…