پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

آموزش کاربردی

«پیوند مغزی»؛ راهکاری برای اجرای مدل‌های عظیم روی سخت‌افزار بهینه

پژوهشگران روشی برای انتقال دانش از مدل‌های ترنسفورمر به معماری‌های متفاوت مانند RNNها و مدل‌های فضای-وضعیت ابداع کرده‌اند. این «پیوند مغزی» اجازه می‌دهد قابلیت‌های مدل‌های عظیم…

۱ دقیقه خواندن۲
آموزش کاربردی

Soup: تنظیم دقیق مدل‌های ۸ میلیارد پارامتری با حافظه ۴ گیگابایتی GPU

پلتفرم متن‌باز Soup با معرفی تکنیک «استریمینگ لایه‌ها»، امکان آموزش مدل‌های زبانی بزرگ ۸ میلیارد پارامتری را روی سخت‌افزارهای مصرف‌کننده با ۴ گیگابایت VRAM فراهم کرد. این ابزار…

۱۱ دقیقه خواندن۴
زندگی با AI

۵ گوشی ضد-هوش مصنوعی برای دور زدن سخت‌افزاری AI در سال ۲۰۲۶

با ادغام اجباری هوش مصنوعی در سخت‌افزار گوشی‌های جدید، کاربران برای حفظ حریم خصوصی به مدل‌های قدیمی و «گوشی‌های ساده» روی آورده‌اند. متخصصان ترکیبی از مدل‌های نسل قبل و دستگاه‌های…

۱۷ دقیقه خواندن۴
آموزش کاربردی

دقت مدل‌های کوچک در برابر مدل‌های حجیم؛ برتری در محاسبات و کدنویسی

یک بنچمارک محلی روی چهار مدل زبانی نشان داد که اندازه مدل تضمینی برای دقت نیست. کوچک‌ترین مدل مورد آزمایش در وظایفی چون محاسبات و کدنویسی، عملکرد بهتری نسبت به مدل‌های بزرگ‌تر…

۲ دقیقه خواندن۲
آموزش کاربردیتأییدنشده · منبع منفرد

«سرعت پایین تولید»؛ چالش MiniMax H3 در سخت‌افزارهای میان‌رده

آزمون‌های جدید ثابت می‌کند مدل MiniMax H3 با کمک تکنیک CPU offloading روی کارت‌های گرافیکی ۱۲ گیگابایتی قابل اجراست. با Despite کیفیت بصری و صوتی بالا، سرعت تولید بسیار پایین است…

۲ دقیقه خواندن۳
آموزش کاربردی

دقت آزمایشگاهی در برابر واقعیت عملیاتی؛ بحران بیومتریک مرزهای اروپا

پروژه‌ی جدید کنترل بیومتریک مرزهای اتحادیه اروپا با شکست گسترده‌ای مواجه شد که منجر به توقف ۸ ساعته مسافران در گرمای شدید گردید. این بحران شکاف عمیق میان دقت بالای الگوریتم‌ها در…

۳ دقیقه خواندن۱
آموزش کاربردی

گارتنر: ۶۰٪ سازمان‌ها تا سال ۲۰۲۷ استنتاج AI را به لبه منتقل می‌کنند

سازمان‌ها برای کاهش تأخیر و هزینه‌های پهنای باند، بار کاری هوش مصنوعی را از ابر به رایانش لبه منتقل می‌کنند. تا سال ۲۰۲۷، بیشتر شرکت‌ها پردازش را در منبع داده انجام می‌دهند تا…

۴ دقیقه خواندن۴
آموزش کاربردی

مدل MiniMax H3 مصرف حافظه گرافیکی را برای تولید ویدیوهای 2K تا ۶۶٪ کاهش داد

شرکت MiniMax مدل H3 را با وزن‌های باز منتشر کرد که تولید ویدیوهای 2K همراه با صدای استریو را ممکن می‌سازد. به‌ دلیل بهینه‌سازی‌های شدید در وزن‌ها، این مدل اکنون روی کارت‌های…

۲ دقیقه خواندن۳