
دقت مدلهای کوچک در برابر مدلهای حجیم؛ برتری در محاسبات و کدنویسی
یک بنچمارک محلی روی چهار مدل زبانی نشان داد که اندازه مدل تضمینی برای دقت نیست. کوچکترین مدل مورد آزمایش در وظایفی چون محاسبات و کدنویسی، عملکرد بهتری نسبت به مدلهای بزرگتر…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۶۷۲ مقاله منتشر شده

یک بنچمارک محلی روی چهار مدل زبانی نشان داد که اندازه مدل تضمینی برای دقت نیست. کوچکترین مدل مورد آزمایش در وظایفی چون محاسبات و کدنویسی، عملکرد بهتری نسبت به مدلهای بزرگتر…

آزمونهای جدید ثابت میکند مدل MiniMax H3 با کمک تکنیک CPU offloading روی کارتهای گرافیکی ۱۲ گیگابایتی قابل اجراست. با Despite کیفیت بصری و صوتی بالا، سرعت تولید بسیار پایین است…

پلتفرم Swiftlet با معرفی مکانیزم استریم وزنها از حافظه SSD، محدودیت رم برای اجرای مدلهای غولپیکر را از بین برد. این فناوری اجازه میدهد مدلهای MoE با حجمی بسیار زیاد، تنها با…

پروژهی جدید کنترل بیومتریک مرزهای اتحادیه اروپا با شکست گستردهای مواجه شد که منجر به توقف ۸ ساعته مسافران در گرمای شدید گردید. این بحران شکاف عمیق میان دقت بالای الگوریتمها در…

سازمانها برای کاهش تأخیر و هزینههای پهنای باند، بار کاری هوش مصنوعی را از ابر به رایانش لبه منتقل میکنند. تا سال ۲۰۲۷، بیشتر شرکتها پردازش را در منبع داده انجام میدهند تا…

تولیدکننده تراشه d-Matrix شرکت Wallaroo.ai را تصاحب کرد تا لایهی نرمافزاری مدیریت بارگذاریها را با سختافزارهای خود یکپارچه کند. هدف این خرید، کاهش پیچیدگیهای عملیاتی در…

شرکت MiniMax مدل H3 را با وزنهای باز منتشر کرد که تولید ویدیوهای 2K همراه با صدای استریو را ممکن میسازد. به دلیل بهینهسازیهای شدید در وزنها، این مدل اکنون روی کارتهای…

سیستمهای بازشناسی چهره از امنیت سادهی دستگاهها به سمت احراز هویت پیچیده و خردهفروشی شخصیسازیشده حرکت میکنند. مدلهای جدید یادگیری عمیق اکنون قادرند چهرهها را حتی با وجود…

پروژه Nightcrawler یک عامل تست نفوذ خودمختار است که با استفاده از مدلهای زبانی کوچک، تمام عملیات شناسایی و بهرهبرداری را بهصورت محلی روی سختافزار گوشیهای اندرویدی اجرا…

افزونهی PISIGuard اطلاعات شخصی کاربران را پیش از رسیدن به سرورهای هوش مصنوعی با جایگذارهای بینام عوض میکند. تمام مراحل حذف و بازگردانی دادهها بهصورت محلی در مرورگر رخ میدهد…

راهنمای فنی جدیدی روش استقرار مدل Whisper شرکت OpenAI را برای تبدیل صوت به متن روی سرورهای شخصی شرح میدهد. این متد با حذف وابستگی به سرویسهای ابری، امنیت دادهها و…

پلتفرم Amap متعلق به علیبابا مدلی را معرفی کرد که میتواند محیطهای تعاملی هوش مصنوعی را به مدت ۲۴ ساعت بدون فروپاشی بصری روی یک کارت گرافیک مصرفکننده اجرا کند. این دستاورد با…