پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

مطالعه استنفورد: مدل‌های زبانی کوچک در ۸۱٪ وظایف با مدل‌های ابری برابری می‌کنند

پژوهش جدید دانشگاه استنفورد نشان می‌دهد مدل‌های زبانی کوچک (SLM) که روی سخت‌افزار محلی اجرا می‌شوند، به‌سرعت در حال پر کردن شکاف عملکرد با مدل‌های ابری هستند. این تغییر می‌تواند…

۵ دقیقه خواندن۲
آموزش کاربردی

«کنترل فناورانه بر داده‌ها»؛ اولویت جدید سازمان‌های بهداشتی در عصر LLM

سازمان‌های بهداشتی برای حفظ کنترل قانونی و فنی بر داده‌های بیماران، به سمت مدل‌های زبانی بزرگ درون‌سازمانی حرکت می‌کنند. این رویکرد مانع از خروج اطلاعات حساس به ارائه‌دهندگان…

۳ دقیقه خواندن۳
آموزش کاربردی

محاسبهٔ حافظهٔ VRAM برای مدل‌های محلی؛ فراتر از وزن‌های مدل

اجرای مدل‌های زبانی بزرگ به‌صورت محلی نیازمند حافظه‌ای بیش از حجم وزن‌های مدل است. حافظهٔ KV Cache در پنجره‌های متنی بلند می‌تواند تا ۱۴ گیگابایت فضای اضافی اشغال کند و باعث کندی…

۳ دقیقه خواندن۲
آموزش کاربردی

چطور مدل‌های پیش‌بینی سیل روی سخت‌افزارهای کم‌مصرف اجرا شوند؟

یک رویکرد جدید در شبکه‌های عصبی گراف احتمالی (PGNN) امکان اجرای مدل‌های پیش‌بینی سیل را روی سخت‌افزارهای کم‌مصرف لبه فراهم کرد. محققان با ترکیب تقطیر دانش و کوانتش ۸ بیتی، مصرف…

۹ دقیقه خواندن۲

اپلیکیشن مک Meta AI داده‌های تبلیغاتی و تقویم گوگل را یکپارچه کرد

متا با عرضه اپلیکیشن اختصاصی Meta AI برای مک، دستیار خود را از یک چت‌بات عمومی به ابزاری حرفه‌ای برای تبلیغ‌کنندگان تبدیل کرد. این ابزار اکنون دسترسی مستقیم به حساب‌های تجاری…

۵ دقیقه خواندن۴
آموزش کاربردی

ابرهای خصوصی؛ شرط لازم برای امنیت داده‌های پزشکی در عصر هوش مصنوعی

استقرار هوش مصنوعی در پزشکی دقیق نیازمند معماری ابر خصوصی برای جداسازی داده‌های حساس بیماران است. این زیرساخت اختصاصی از دسترسی غیرمجاز به سوابق ژنومیک جلوگیری کرده و قابلیت…

۴ دقیقه خواندن۱

گوگل: جداسازی لایه رانندگی از Gemini ضامن ایمنی ربوتاکسی‌های Waymo است

شرکت Waymo مدل Gemini گوگل را به‌عنوان دستیار صوتی در تاکسی‌های Ojai ادغام کرد تا کنترل کابین و پاسخ به پرسش‌ها را مدیریت کند. این سیستم به‌طور کامل از لایه‌ی رانندگی خودکار جدا…

۴ دقیقه خواندن۱

«از چت‌بات تا ابزار دسکتاپ»؛ تغییر استراتژی Meta در اکوسیستم مک

متا یک اپلیکیشن اختصاصی برای مک عرضه کرد که می‌تواند محتوای صفحه نمایش کاربر را تحلیل کند و به ابزارهای گوگل متصل شود. این اقدام تلاشی برای تبدیل یک چت‌بات اجتماعی به ابزاری برای…

۱ دقیقه خواندن۳