پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

آموزش کاربردی

پیاده‌سازی هستهٔ Jev در ۲۵ خط کد پایتون؛ افشای سازوکار طبقه‌بندی احتمالات

یک نمایش فنی نشان می‌دهد که قابلیت‌های تصمیم‌گیری Jev برخلاف هیاهوهای تبلیغاتی، بر یک سازوکار سادهٔ طبقه‌بندی احتمالات استوار است. این پیاده‌سازی محلی ثابت می‌کند که برای مدل‌های…

۲ دقیقه خواندن۵
آموزش کاربردی

درون npunlock؛ ابزاری برای باز کردن محدودیت‌های سخت‌افزاری Meteor Lake

پروژه متن‌باز npunlock با دور زدن محدودیت‌های نرم‌افزاری اینتل، امکان اجرای کدهای سفارشی C را روی واحدهای پردازش عصبی (NPU) فراهم می‌کند. این ابزار با باز کردن دسترسی به هسته‌های…

۵ دقیقه خواندن۲
آموزش کاربردی

مدل ۴ میلیاردی Mano-AFK صحت استقرار خودکار اپلیکیشن‌ها را به ۵۸٪ رساند

پلتفرم Mininglamp چارچوب متن‌باز Mano-AFK را برای خودکارسازی کامل چرخه ساخت، تست و استقرار روی مک‌های اپل منتشر کرد. این مدل در تولید مستندات و رفع باگ‌های ساده موفق است، اما در…

۶ دقیقه خواندن۱

سناپ‌دراگون 8 Elite Extreme در برابر قابلیت‌های پردازشی محلی اپل

کوالکام دو تراشه پرچمندار جدید برای اجرای عامل‌های هوش مصنوعی مستقیماً روی گوشی معرفی کرد. نسخه Extreme می‌تواند مدل‌های ترکیبی خبره‌ها با ۳۰ میلیارد پارامتر را بدون نیاز به ابر…

۲ دقیقه خواندن۱

درون معماری تراشه‌های اپل؛ چرا مک‌ها برای هوش مصنوعی محلی ایده‌آل شدند

انتقال اپل به تراشه‌های اختصاصی، محیطی سخت‌افزاری ایجاد کرد که به‌طور طبیعی برای اجرای محلی مدل‌های زبانی بزرگ ایده‌آل است. حافظه یکپارچه و طراحی GPU در مک‌ها، اجرای مدل‌های پیشرو…

۵ دقیقه خواندن۲

Rabbit با سیستم‌عامل OS3 عامل‌های هوش مصنوعی را از سخت‌افزار جدا کرد

شرکت Rabbit از OS3 رونمایی کرد؛ سیستم‌عاملی عامل‌محور که به‌جای تکیه بر سخت‌افزار اختصاصی، روی کامپیوترها و گوشی‌های موجود اجرا می‌شود. این تغییر استراتژی به کاربران اجازه می‌دهد…

۶ دقیقه خواندن۲
آموزش کاربردی

مدل «دریچهٔ امنیتی» MonkeyCode نشت داده‌ها در استنتاج ابری را متوقف می‌کند

یک گردش‌کار جدید پیشنهاد می‌دهد که استنتاج هوش مصنوعی در ابر نباید مسیر پیش‌فرض باشد، بلکه باید تنها به عنوان یک «سرریز» برای تسک‌های سنگین عمل کند. این سیستم با ایجاد یک گیت…

۶ دقیقه خواندن۲