
فریمورک Espresso سرعت استنتاج ترنسفورمرها در مک را ۴.۷۶ برابر کرد
فریمورک جدید Espresso با دور زدن CoreML و دسترسی مستقیم به موتور عصبی اپل، تأخیر رمزگشایی توکنها را به شدت کاهش داد. این ابزار علاوه بر استنتاج سریع، امکان آموزش کامل مدلها را…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۰۹۶ مقاله منتشر شده

فریمورک جدید Espresso با دور زدن CoreML و دسترسی مستقیم به موتور عصبی اپل، تأخیر رمزگشایی توکنها را به شدت کاهش داد. این ابزار علاوه بر استنتاج سریع، امکان آموزش کامل مدلها را…

فارس علافی، پژوهشگر ۱۳ ساله، مدلی با ۳۰۰ میلیون پارامتر طراحی کرده که با ترکیب معماری Mamba-2 و مدل انتشار، مشکل تکرار کلمات و پیچیدگی محاسباتی ترنسفورمرها را هدف قرار میدهد. این…

یک روش فنی جدید نشان میدهد که واترمارکهای تصاویر گوگل Gemini با استفاده از محاسبات حسابی به جای تخمینهای مدلهای مولد، کاملاً بازگشتپذیر هستند. کاربران میتوانند با معکوس کردن…

یک تلاش پژوهشی هشتماهه برای ساخت زیرساخت دانشی نمادین و مبتنی بر CPU با شکست مواجه شد. این سیستم نتوانست بدون مدلهای پیشفرض، تجربیات قدیمی را به موقعیتهای جدید پیوند دهد.

بررسی ۱۵ اپلیکیشن اندرویدی نشان میدهد عاملهای هوش مصنوعی بهدلیل نبود برچسبهای دسترسی در برنامههای بانکی و دولتی محلی شکست میخورند. این شکاف دیجیتالی علاوه بر توقف اتوماسیون،…

پروکل AIWire با جایگزینی فریمهای حجیم JSON با تغییرات فشرده (Deltas)، هدررفت پهنای باند را در محیطهای چندعاملی کاهش میدهد. این ابزار با توافق بر سر ساختار پیامها در ابتدای هر…

یک فرمت جدید برای استریم صحنههای سهبعدی پویا معرفی شده که حجم فایلها را تا ۵۸ برابر کاهش میدهد. این فناوری امکان پخش باکیفیت صحنههای 4D را از طریق درخواستهای HTTP Range و…

گجتهای پوشیدنی با استفاده از هوش مصنوعی، تغییرات ظریف فیزیولوژیک بدن را رصد میکنند تا بیماری را پیش از ظهور علائم تشخیص دهند. هرچند این ابزارها هنوز جایگزین تشخیص پزشکی نیستند،…

پروژه OpenClaw امکان میزبانی یک درگاه (Gateway) خصوصی برای دستیارهای هوش مصنوعی را روی رزبریپای فراهم میکند. این سیستم تعامل با مدلهای زبانی را از طریق واتساپ و تلگرام ممکن…

اپل با معرفی iOS 27، دستیار سیری را به یک مدل زبانی بزرگ تبدیل میکند، اما دسترسی به این قابلیتها را به دستگاههای دارای Apple Intelligence محدود کرده است. کاربران آیفون ۱۵ پرو و…

شرکت فرانسوی Mistral AI با تغییر استراتژی از رقابت مستقیم با ChatGPT، بر استقرار مدلها در سازمانهای دولتی و تجاری متمرکز شده است. این شرکت با ارزشگذاری احتمالی ۲۳ میلیارد دلار،…

تسلا سرویس Robotaxi را به میامی گسترش داد و اکنون در پنج شهر آمریکا فعالیت میکند. این حرکت تجاری همزمان با پیشرفتهای NVIDIA در شبیهسازی محیطی و معرفی استانداردهای اخلاقی…