شرکت H: مدل Holo3.1 زمان اجرای گامهای عاملهای محلی را ۵۰٪ کاهش داد
شرکت H خانواده مدلهای Holo3.1 را برای استقرار محلی و موبایلی عاملهای کامپیوتری معرفی کرد. این بهروزرسانی با بهرهگیری از کوانتایزیشن NVFP4، تأخیر اجرای هر گام را از ۶.۸ ثانیه…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۰۸۳ مقاله منتشر شده
شرکت H خانواده مدلهای Holo3.1 را برای استقرار محلی و موبایلی عاملهای کامپیوتری معرفی کرد. این بهروزرسانی با بهرهگیری از کوانتایزیشن NVFP4، تأخیر اجرای هر گام را از ۶.۸ ثانیه…
شرکت Opal Electronics با دریافت سرمایهگذاری ۴۰ میلیون دلاری از OpenAI، مسیر خود را از وبکم به سمت سختافزارهای صوتی هوشمند تغییر داد. هدف این شرکت ساخت اکوسیستمی است که کاربران…
Paseo یک لایه ارکستراسیون سلف-هوست است که اجازه میدهد چندین عامل کدنویسی مثل Claude Code و Copilot را بهصورت موازی اجرا کنید. این ابزار رابط کاربری یکسانی برای موبایل و دسکتاپ…
انویدیا با معرفی تراشه RTX Spark قصد دارد از تسلط بر بازار پردازندههای گرافیکی فراتر رفته و وارد بازار ۲۰۰ میلیارد دلاری CPU شود. این استراتژی بر پایه ایجاد زیرساختی امن برای…
گوگل با معرفی مکانیکی تحت عنوان «دست دادن دیجیتال» در اندروید ۱۲ و بالاتر، تلاش میکند جلوی کلاهبرداریهای صوتی مبتنی بر هوش مصنوعی را بگیرد. این سیستم از طریق پروتکل RCS هویت…
انویدیا در نسخهی JetPack 7.2 قابلیتهای خودکارسازی استقرار را معرفی کرد تا فاصله بین نمونههای آزمایشگاهی و تولید صنعتی رباتها کاهش یابد. این بهروزرسانی همچنین با معرفی Super…
انویدیا و مایکروسافت با معرفی کانتینرهای امنیتی و بهینهسازیهای سختافزاری، اجرای سریع عاملهای هوش مصنوعی روی ویندوز را ممکن کردند. این بهروزرسانی سرعت استنتاج را تا ۲.۶ برابر…
پروژه tiny-vllm یک موتور آموزشی مبتنی بر C++ و CUDA است که معماری vLLM را بازسازی میکند. این ابزار به توسعهدهندگان میآموزد چگونه استنتاج Llama 3.2 را از صفر پیاده کنند و بر…
شرکت Mistral AI از یک آزمایشگاه مدلسازی به ارائهدهنده کامل زیرساخت، پلتفرم و مشاوره تبدیل شده است. این شرکت با راهاندازی مرکز داده اختصاصی در پاریس، بر استقرار محلی و مدلهای…
گوگل با معرفی کتابخانه AppFunctions در اندروید ۱۶، به اپلیکیشنها اجازه میدهد منطق داخلی خود را مستقیماً به عنوان ابزاری برای عاملهای هوش مصنوعی ارائه دهند. این تغییر، رابطهای…
شرکت Liquid AI مدل LFM2.5-8B-A1B را معرفی کرد؛ یک مدل MoE برای اجرا روی دستگاه که تنها ۱.۵ میلیارد پارامتر فعال دارد. این مدل با کاهش شدید توهمات و بهبود استدلال، امکان اجرای هوش…
اپل در iOS 27 سیری را بازطراحی کرده و مدل Gemini گوگل را به آن اضافه میکند. این شرکت با تکیه بر ۲.۵ میلیارد دستگاه، قصد دارد سهم ChatGPT از بازار را به شدت کاهش دهد.