پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

زندگی با AIتأییدنشده · منبع منفرد

چرا اجرای مدل‌های زبانی روی سخت‌افزار شخصی هزینه‌برتر است؟

یک آزمایش دو هفته‌ای نشان می‌دهد اجرای مدل‌های زبانی روی سخت‌افزار شخصی به‌دلیل نبود کارایی مراکز داده، هزینه‌ی برق بیشتری دارد. عامل اصلی این مصرف، ارسال حجم بالای متن به عنوان…

۳ دقیقه خواندن۱
آموزش کاربردی

مقیاس‌دهی خودکار در برابر ترافیک‌های ناگهانی: چرا زیرساخت‌های عامل‌محور فرو

سیستم‌های مقیاس‌دهی استاندارد هنگام وقوع رویدادهای جهانی شکست می‌خورند؛ زیرا زمان راه‌اندازی سخت‌افزاری GPU دقایقی طول می‌کشد، در حالی که جهش ترافیک در چند ثانیه رخ می‌دهد.…

۸ دقیقه خواندن۱

مدل Moonshine: بازشناسی گفتار در حجم ۵۰۰ کیلوبایت برای میکروکنترلرها

مدل‌های فوق‌کوچک بازشناسی گفتار مانند Moonshine، رابط‌های صوتی را به میکروکنترلرها آورده‌اند. این تغییر مسیر بیش از آنکه به دلیل کاهش هزینه‌های ابری باشد، ناشی از نیاز به…

۹ دقیقه خواندن

قمار ۶.۲ میلیارد دلاری انویدیا برای تصاحب هوش مصنوعی فیزیکی ژاپن

انویدیا با همکاری دولت و غول‌های صنعتی ژاپن، زیرساخت ملی «نوئترا» را برای رباتیک پیشرفته می‌سازد. هدف این استراتژی، استقرار ۱۰ میلیون ربات مجهز به هوش مصنوعی در بخش تولید ژاپن تا…

۵ دقیقه خواندن
آموزش کاربردی

۱۰ روند کلیدی توسعه نرم‌افزار با هوش مصنوعی در سال ۲۰۲۶

توسعه نرم‌افزار از نوشتن خط‌به‌خط کد به سمت مدیریت سامانه‌های چندعاملی حرکت می‌کند. پروتکل MCP و ظهور عامل‌های خودگردان، نحوه ساخت، استقرار و عیب‌یابی اپلیکیشن‌ها را به‌طور کلی…

۳ دقیقه خواندن۲