
POCKET: اجرای مدلهای ۳۵ میلیارد پارامتری روی CPU با سرعت ۳.۴ برابر
پروژه POCKET با بهرهگیری از llama.cpp امکان اجرای مدلهای زبانی بزرگ ۳۵ میلیارد پارامتری را روی پردازندههای معمولی (CPU) فراهم کرد. این دستاورد با حذف نیاز به GPUهای گرانقیمت،…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۱۰۴ مقاله منتشر شده

پروژه POCKET با بهرهگیری از llama.cpp امکان اجرای مدلهای زبانی بزرگ ۳۵ میلیارد پارامتری را روی پردازندههای معمولی (CPU) فراهم کرد. این دستاورد با حذف نیاز به GPUهای گرانقیمت،…

یک چارچوب عملی برای استفاده از هوش مصنوعی میزبانیشده بهصورت محلی جهت تسلط بر گواهینامههای پیچیده ICT. این متد بر شبیهسازیهای مطالعه با اولویت حریم خصوصی و حلقههای بازخورد…

تیم کوک اعلام کرد کاربرانی که نیاز به ظرفیت پردازشی بیشتر برای هوش مصنوعی دارند، میتوانند با پرداخت هزینه در قالب اشتراکهای جدید iCloud Plus، محدودیتهای فعلی را بردارند. این…

سیستمهای جستوجوی سنتی بر پایه کلمات کلیدی، مفاهیم را نمیفهمند و باعث اتلاف زمان و سرمایه میشوند. مدلهای بردار معنایی با تبدیل متن به مختصات ریاضی، امکان یافتن اسناد بر اساس…

پلتفرم BizNode Pro امکان اجرای ۵ ربات تلگرامی با هویت و پایگاه دانش مجزا را بهصورت محلی فراهم میکند. این ابزار با انتقال مدل زبانی و پایگاه داده به سختافزار کاربر، نیاز به…

یک توسعهدهنده با جایگزینی کتابخانههای استاندارد با کرنلهای اختصاصی WebGPU که توسط هوش مصنوعی تولید شدهاند، یک حلکننده (Solver) پوکر با کارایی بالا در مرورگر ساخت. این دستاورد…
شرکت Xsight Labs با جذب ۳۰۰ میلیون سرمایه و رسیدن به ارزش ۲.۸ میلیارد دلار، قصد دارد استانداردهای بسته شبکه در مراکز داده را با تراشههای برنامهپذیر جایگزین کند. این سختافزارها…

حجم فایلهای نصب ویندوز به دلیل ادغام مدلهای هوش مصنوعی Copilot+ به بیش از ۸ گیگابایت رسیده است. این افزایش حجم، استقرار سیستم در شبکههای سازمانی را دشوار کرده و فضای ذخیرهسازی…

ابزار HERTZ با بهرهگیری از FFmpeg.wasm، زنجیره پردازش صوتی با کیفیت بالا را بهصورت محلی در مرورگر اجرا میکند. این رویکرد با حذف نیاز به آپلود فایل، تأخیر را 없 کرده و حریم خصوصی…

آوی شیفمن نسخه دوم گردنبند هوش مصنوعی Friend را با قابلیت پاسخ صوتی و مدلهای جدید OpenAI عرضه کرد. این دستگاه بهجای بهرهوری، بر روی ایجاد یک همراه دیجیتال دائمی برای افراد تنها…

برخلاف باور رایج، برای بازبینی کد با هوش مصنوعی نیازی به سختافزارهای گرانقیمت نیست و ۸ گیگابایت حافظه ویدیویی توازن ایدهآلی میان هزینه و عملکرد ایجاد میکند. جهش از مدلهای ۱.۵…

سامانه جدید گوگل دیپمایند به رباتهای انساننما اجازه میدهد تا دستورات پیچیده را با هماهنگی کامل تمام بدن اجرا کنند. این بهروزرسانی علاوه بر افزایش مهارت در کارهای ظریف، امکان…