پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

کامپیوتر شخصی Panda: پایان اشتراک‌های ماهانه با پردازش محلی ۲۹۹۷ دلاری

شرکت Panda با معرفی سخت‌افزاری مستقل، پردازش هوش مصنوعی را از ابر به خانه می‌آورد تا نیاز به اشتراک‌های ماهانه و نظارت ابری حذف شود. این سیستم ۲۹۹۷ دلاری امکان اجرای مدل‌های…

۴ دقیقه خواندن۳
آموزش کاربردی

CoyoPedal: اجرای بلادرنگ شبیه‌سازهای پیچیده روی سخت‌افزار ارزان‌قیمت

پروژه متن‌باز CoyoPedal موفق شد مدل‌های پیچیده شبیه‌ساز آمپلی‌فایر (NAM A2) را به‌صورت بلادرنگ روی تراشه ارزان‌قیمت ESP32-S3 اجرا کند. این دستاورد با بهینه‌سازی هسته‌های Xtensa و…

۱۳ دقیقه خواندن۲
آموزش کاربردی

بهینه‌سازی حافظه در llama.cpp سرعت رمزگشایی را ۱۴۰ برابر کرد

توسعه‌دهندگان llama.cpp با بازطراحی ساختارهای داده و بهینه‌سازی دسترسی به حافظه، سرعت پیش‌بینی توکن‌ها در رمزگشایی گمانه‌زنانه را تا ۱۴۰ برابر افزایش دادند. این تغییرات باعث کاهش…

۱۳ دقیقه خواندن۱
آموزش کاربردی

«پایان مشکل Barge-in»؛ راهکار جدید برای قطع طبیعی صحبت‌های هوش مصنوعی

توسعه‌دهنده AI Group Call جزئیات فنی سیستمی را افشا کرد که اجازه می‌دهد انسان‌ها به‌طور طبیعی صحبت‌های ۸ عامل هوش مصنوعی را قطع کنند. این راهکار بر پایه تشخیص فعالیت صوتی مبتنی بر…

۵ دقیقه خواندن۲

Claude Opus 5.5 در برابر نسخه ۵؛ بهینه‌سازی هزینه‌های عملیاتی هوش مصنوعی

آنتروپیک با معرفی Claude Opus 5.5 کف قیمتی استقرار عامل‌های هوش مصنوعی در محیط‌های عملیاتی را جابه‌جا کرد. هم‌زمان، متا استراتژی سخت‌افزاری خود را برای انتقال عامل‌ها به عینک‌های…

۷ دقیقه خواندن۱

Laya در برابر Jev؛ جایگزین متن‌باز برای APIهای بسته و گران‌قیمت

مدل متن‌باز Laya با معماری غیرخودبازگشتی، سرعت استنتاج در وظایف طبقه‌بندی را به شدت افزایش داده و جایگزینی رایگان برای APIهای بسته مانند Jev است. این مدل برای کاربردهای با حجم…

۱۰ دقیقه خواندن۴