موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۷۶۷ مقاله منتشر شده
مدل باز Spark-X2.5-4B با وجود اندازه کوچک، در وظایف عامل‌محور، ریاضیات و کدنویسی عملکردی مشابه مدل‌هایی با اندازه سه برابر خود نشان داد. این مدل در چندین محک کلیدی، رقبایی چون…
استارتاپ کره‌ای VIDRAFT سرویس AI Foundry را برای بهینه‌سازی و استقرار امن مدل‌های هوش مصنوعی در محیط‌های ایزوله (Air-gapped) معرفی کرد. این پلتفرم با تمرکز بر صنایع حساس،…
استارتاپ Mostik روشی را ابداع کرده که مدل‌های هوش مصنوعی به‌جای تبادل متن، از طریق مقادیر ریاضی وزن‌ها با یکدیگر ارتباط برقرار کنند. این تکنیک به مدل‌های کوچک اجازه می‌دهد هوشمندی…
شرکت Reliance Jio دسترسی به سرویس رایانه‌های ابری خود را برای تمام کاربران اینترنت هند باز کرد. این اقدام به کاربران اجازه می‌دهد با پرداخت اشتراک، اپلیکیشن‌های مدرن هوش مصنوعی را…
پروژه WebLLM با بهره‌گیری از استاندارد WebGPU، امکان اجرای کامل مدل‌های زبانی بزرگ را بدون نیاز به سرور و مستقیماً در مرورگر فراهم می‌کند. این رویکرد با حذف پردازش‌های ابری، حریم…
کوانتایزیشن با کاهش دقت عددی وزن‌ها و فعال‌سازها، مصرف حافظه و انرژی را به‌شدت کم می‌کند. برخلاف هرس کردن، این روش ساختار مدل را حفظ کرده و سرعت استنتاج را روی سخت‌افزارهای لبه…
شرکت ایسر دسکتاپ فوق‌فشرده‌ای را معرفی کرد که با تکیه بر تراشه RTX Spark انویدیا، اجرای عامل‌های هوش مصنوعی پیچیده را به‌صورت محلی ممکن می‌کند. این سیستم با ترکیب پردازنده و…
انتقال قابلیت‌های هوش مصنوعی از محیط دمو به محصول نهایی نیازمند تغییر رویکرد در زمینه عملکرد، حریم خصوصی و امنیت است. این راهنما الزامات معماری برای عرضه نسخه‌های پایدار و…
اجرای محلی مدل‌های تولید تصویر، ریسک‌های حریم خصوصی و هزینه‌های تکراری APIهای ابری را حذف می‌کند. ابزارهایی مانند ComfyUI و Draw Things اکنون امکان اجرای مدل‌های پیشرفته‌ای مثل…
Meetily یک دستیار جلسات متمرکز بر حریم خصوصی است که تمام فرآیندهای تبدیل گفتار به متن و خلاصه‌سازی را روی سیستم کاربر انجام می‌دهد. این ابزار با حذف خط لوله‌های ابری، نیاز به…
سازمان‌های بهداشتی برای حفظ حاکمیت داده‌های حساس بیماران، از استنتاج محلی هوش مصنوعی استفاده می‌کنند. این رویکرد اجازه می‌دهد جریان‌های کاری بالینی بدون ریسک انتقال داده به…
اجرای مدل Whisper مستقیماً در مرورگر، مرزهای حریم خصوصی را با نگه داشتن داده‌های صوتی در دستگاه کاربر جابه‌جا می‌کند. این معماری برای جلوگیری از هنگ کردن رابط کاربری، بر…