پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۱٬۷۷۱ مقاله منتشر شده

میکروجی‌پی‌تی‌سی: اتمی‌ترین روش آموزش و استنتاج مدل GPT در زبان C خالص و بدون وابستگی
آموزش کاربردی

پروژه MicroGPT-C: پیاده‌سازی ترنسفورمر در یک فایل C بدون وابستگی خارجی

یک پروژه متن‌باز جدید، مدل ترنسفورمر را به‌صورت خالص در زبان C و بدون نیاز به کتابخانه‌های خارجی پیاده کرده است. این مدل با تنها ۴۱۹۲ پارامتر، توانایی تعمیم الگوها را به شکلی به…

۲ دقیقه خواندن۱
الکسای پلاس با هوش مصنوعی آمازون روی فایر تی‌وی رایگان شد؛ نیازی به اشتراک پرایم نیست | تک‌کرانچ

«رایگان برای همه»؛ استراتژی جدید آمازون برای گسترش Alexa+

آمازون هزینه اشتراک دستیار هوش مصنوعی Alexa+ را برای تمامی کاربران دستگاه‌های Fire TV در آمریکا حذف کرد. این به‌روزرسانی قابلیت‌های جست‌وجوی مکالمه‌ای و کنترل هوشمند خانه را بدون…

۲ دقیقه خواندن۲
عامل سطح سیستم‌عامل اوپن‌ای‌آی: فراتر از چت‌باکس، با چالش متن ساده

OpenAI تاریخچه فعالیت کاربران مک را به‌صورت متن ساده و رمزنگاری‌نشده ذخیره

قابلیت جدید Computer History در اپلیکیشن مکِ OpenAI، تمام کلیک‌ها و تایپ‌های کاربر را برای ایجاد زمینه (Context) برای عامل‌ها ثبت می‌کند. اما ذخیره‌سازی این داده‌ها در فایل‌های…

۴ دقیقه خواندن۲
همه ۶۰٪ در هزینه‌های LLM صرفه‌جویی می‌کنند. اما هیچ‌کس آمار واقعی را نشان نمی‌دهد.
آموزش کاربردی

OmnisBench: ابزاری برای افشای واقعیتِ صرفه‌جویی در مسیریابی مدل‌های زبانی

پلتفرم Fortitude Omnis ابزار متن‌باز OmnisBench را برای اعتبارسنجی ادعاهای کاهش هزینه در مسیریابی LLMها منتشر کرد. این ابزار نشان می‌دهد بخش بزرگی از صرفه‌جویی‌های ادعایی، نه به…

۴ دقیقه خواندن۳
مگس میوه سه‌بعدی روی دسکتاپ macOS با شبیه‌سازی زنده شبکه عصبی FlyWire
آموزش کاربردی

شبیه‌ساز DesktopFly مغز مگس سرکه را روی دسکتاپ مک پیاده کرد

پروژه‌ای متن‌باز با استفاده از داده‌های اتصالات عصبی FlyWire، مگسی سه‌بعدی را به دسکتاپ macOS آورد که به‌جای انیمیشن‌های برنامه‌ریزی‌شده، بر اساس شبیه‌سازی زندهٔ نورون‌های مغز مگس…

۴ دقیقه خواندن۲
کفش‌کش — هر مدل زبانی را با سخت‌افزار خود سازگار کنید
آموزش کاربردی

ابزار shoehorn حافظهٔ سخت‌افزاری را تا ۹۹.۹٪ برای مدل‌های زبانی بهینه می‌کند

ابزار shoehorn با محاسبهٔ دقیق نیازهای حافظه، کوانتش مدل‌های زبانی را به‌گونه‌ای تنظیم می‌کند که تقریباً ۱۰۰٪ از رم موجود استفاده شود. این ابزار حدس و خطاهای مربوط به تنظیمات…

۱ دقیقه خواندن۲