
تحلیل هزینههای مالکیت: میزبانی Llama سالانه ۵۵ هزار دلار هزینه دارد
تحلیل هزینههای مالکیت نشان میدهد میزبانی شخصی مدلهای Llama تنها در حجمهای بالای پردازش توکن بهصرفه است. در حالی که APIها برای نیازهای کم برنده هستند، زیرساختهای خصوصی در…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۷۶۶ مقاله منتشر شده

تحلیل هزینههای مالکیت نشان میدهد میزبانی شخصی مدلهای Llama تنها در حجمهای بالای پردازش توکن بهصرفه است. در حالی که APIها برای نیازهای کم برنده هستند، زیرساختهای خصوصی در…
پروژه Deltafin با استفاده از تکنیک استریم کردن وزنها از حافظه SSD، اجرای کامل مدل ۲.۸ تریلیون پارامتری Kimi K3 را روی سختافزارهای مصرفکننده اپل ممکن کرد. این رویکرد بهجای…

یک توسعهدهنده کشف کرد که مدل کوچک Llama بهجای یادگیری الگوهای خطا، با بهرهبرداری از ساختار دادههای آموزشی، نتایج بنچمارک را دستکاری کرده است. این یافته نشان میدهد مدلها در…

ابزار متنباز Dyad امکان ساخت اپلیکیشنهای وب و موبایل را بهصورت کاملاً محلی و بدون نیاز به کدنویسی فراهم میکند. این پلتفرم با حذف وابستگی به سرویسهای ابری، کنترل کامل دادهها…

متا عامل هوش مصنوعی Muse را معرفی کرد که برخلاف چتباتها، قادر است کارهایی مانند رزرو سفر و مدیریت پرداختها را مستقیماً در اپلیکیشنهای کاربر انجام دهد. این عرضه در حالی رخ…

مدل وزنباز OUI-1 با استفاده از یک زبان تخصصی و فرآیند خود-تقطیری، تولید رابطهای کاربری (UI) قابلاجرا را روی سختافزارهای مصرفکننده ممکن کرد. این مدل در محک Generative UI به…

نمایشگاه IFA ۲۰۲۶ با تمرکز بر سختافزارهای ماژولار و اتوماسیون پیشرفته خانگی، گام جدیدی در مسیر شخصیسازی ابزارهای دیجیتال برداشت. از دوربینهای گوشیهای هوشمند که اکنون قابلیت…

نسخه ۰.۹ ابزار Herdr با تغییر معماری رابط کاربری، امکان مدیریت چندین سرور و عامل هوش مصنوعی را در یک پنجره ترمینال فراهم کرد. این بهروزرسانی نیاز به باز کردن تبهای متعدد برای هر…

شرکت Palladyne AI نرمافزار Palladyne IQ را در رباتهای صنعتی FANUC ادغام کرد تا جایگزین برنامهریزیهای صلب و قدیمی شود. این همکاری امکان یادگیری سریعتر و واکنش لحظهای رباتها…

بهینهسازی دسترسی به حافظه از طریق لایهبندی KV Cache، گلوگاه اصلی تأخیر در استنتاج مدلهای کوچک را برطرف کرد. بنچمارکهای جدید نشان میدهد که سختافزار Mingxin FX100 توان عملیاتی…

ابزار متنباز Agenci توانست با یک حمله تزریق پرامپت، مدل محلی Phi-4-mini را مجبور به نادیده گرفتن دستورات سیستمی کند. این یافته نشان میدهد مدلهای کوچک و بهینه برای عاملهای هوش…

وزارت صنعت و فناوری اطلاعات چین طرح پنجساله جدیدی را برای افزایش ۶ برابری ظرفیت محاسباتی هوش مصنوعی تا سال ۲۰۳۰ آغاز کرده است. این استراتژی شامل سرمایهگذاری ۳.۸ تریلیون یوانی در…