موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۶۸۰ مقاله منتشر شده
شرکت Reliance Jio دسترسی به سرویس رایانههای ابری خود را برای تمام کاربران اینترنت هند باز کرد. این اقدام به کاربران اجازه میدهد با پرداخت اشتراک، اپلیکیشنهای مدرن هوش مصنوعی را…
پروژه WebLLM با بهرهگیری از استاندارد WebGPU، امکان اجرای کامل مدلهای زبانی بزرگ را بدون نیاز به سرور و مستقیماً در مرورگر فراهم میکند. این رویکرد با حذف پردازشهای ابری، حریم…
کوانتایزیشن با کاهش دقت عددی وزنها و فعالسازها، مصرف حافظه و انرژی را بهشدت کم میکند. برخلاف هرس کردن، این روش ساختار مدل را حفظ کرده و سرعت استنتاج را روی سختافزارهای لبه…
شرکت ایسر دسکتاپ فوقفشردهای را معرفی کرد که با تکیه بر تراشه RTX Spark انویدیا، اجرای عاملهای هوش مصنوعی پیچیده را بهصورت محلی ممکن میکند. این سیستم با ترکیب پردازنده و…
انتقال قابلیتهای هوش مصنوعی از محیط دمو به محصول نهایی نیازمند تغییر رویکرد در زمینه عملکرد، حریم خصوصی و امنیت است. این راهنما الزامات معماری برای عرضه نسخههای پایدار و…
اجرای محلی مدلهای تولید تصویر، ریسکهای حریم خصوصی و هزینههای تکراری APIهای ابری را حذف میکند. ابزارهایی مانند ComfyUI و Draw Things اکنون امکان اجرای مدلهای پیشرفتهای مثل…
Meetily یک دستیار جلسات متمرکز بر حریم خصوصی است که تمام فرآیندهای تبدیل گفتار به متن و خلاصهسازی را روی سیستم کاربر انجام میدهد. این ابزار با حذف خط لولههای ابری، نیاز به…
سازمانهای بهداشتی برای حفظ حاکمیت دادههای حساس بیماران، از استنتاج محلی هوش مصنوعی استفاده میکنند. این رویکرد اجازه میدهد جریانهای کاری بالینی بدون ریسک انتقال داده به…
اجرای مدل Whisper مستقیماً در مرورگر، مرزهای حریم خصوصی را با نگه داشتن دادههای صوتی در دستگاه کاربر جابهجا میکند. این معماری برای جلوگیری از هنگ کردن رابط کاربری، بر…
تحلیل جدید هزینه کل مالکیت نشان میدهد که جایگزینی APIها با زیرساخت شخصی برای حجمهای بالا، حدود یک سال زمان میبرد تا هزینه سرمایهگذاری اولیه را جبران کند. این سودآوری به شدت به…
یک پیادهسازی عملی نشان میدهد که مکمینی M4 Pro با ۴۸ گیگابایت رم میتواند مدلهای زبانی بزرگ با معماری ترکیب خبرهها را بهصورت محلی اجرا کند. این ساختار هزینههای API را حذف…
گوگل ابزار Google Pics را برای کاربران Workspace و مشترکین AI عرضه کرد. این سرویس با قابلیت قطعهبندی اشیا و ویرایش متنهای درونتصویری، فرآیند آزمون و خطای پرامپتنویسی را برای…