چطور مدل بودجهبندی Ai2 مانع از اشغال غیربهینه GPUها میشود؟
مؤسسه Ai2 برای مقابله با اشغال غیربهینه GPUها، سیستم اولویتبندی سنتی را با یک مدل بودجهبندی سلسلهمراتبی جایگزین کرد. این رویکرد جدید با تبدیل توان محاسباتی به یک بودجه مالی،…
موضوع
تراشهها، پردازندهها و تجهیزات فیزیکی مورد استفاده در اجرای مدلهای هوش مصنوعی
۷۴۲ مقاله منتشر شده
مؤسسه Ai2 برای مقابله با اشغال غیربهینه GPUها، سیستم اولویتبندی سنتی را با یک مدل بودجهبندی سلسلهمراتبی جایگزین کرد. این رویکرد جدید با تبدیل توان محاسباتی به یک بودجه مالی،…
مایکروسافت با معرفی Surface Laptop Ultra و عاملهای هوش مصنوعی محلی، استراتژی خود را از پردازش ابری به سمت سختافزار لبه تغییر داد. این رویکرد با تکیه بر تراشههای انویدیا، هدفش…
مایکروسافت و انویدیا با معرفی ورکاستیشنهای RTX Spark و حافظه یکپارچه، قصد دارند اجرای مدلهای زبانی بزرگ را به صورت محلی برای توسعهدهندگان ممکن کنند. با این حال، قیمت ۴۰۰۰…
استفاده از پردازندههای گرافیکی ردهبالا برای مدلهای کوچک، یکی از گرانترین اشتباهات در استنتاج مدلهای زبانی است. این راهنما فرمولی برای محاسبه دقیق حافظه مورد نیاز بر اساس…
شرکت امنیتی Lava هزاران میزبان نظارتی GPUهای انویدیا را شناسایی کرد که بدون احراز هویت در دسترس عموم هستند. این نقص امنیتی علاوه بر افشای موجودی سختافزاری، امکان متوقف کردن…
ابزار rGPU به توسعهدهندگان اجازه میدهد عملیات PyTorch و ذخیرهسازی تنسورها را به یک ماشین NVIDIA راه دور منتقل کنند. این قابلیت توسعه هوش مصنوعی را روی سختافزارهای فاقد CUDA،…
اسپیساکس و برودکام در تلاش برای جذب مجموعاً ۹۰ میلیارد دلار سرمایه هستند تا دسترسی خود به پردازندههای انویدیا و تراشههای سفارشی را تضمین کنند. این رقابت سرمایهای در حالی رخ…
یک متخصص جلوههای ویژه با راهاندازی YourFXCase AI، دسترسی رایگان به تولید ویدیوهای هوش مصنوعی را از طریق مدل جذب درآمد تبلیغاتی ممکن کرد. این پروژه به بررسی توازن میان سرعت…
تکنیک رمزگشایی گمانهزنانه با استفاده از یک مدل کوچک برای پیشبینی توکنها و تأیید موازی آنها توسط مدل اصلی، سرعت خروجی را بدون کاهش کیفیت افزایش میدهد. این بهینهسازی در…
استارتاپ Natura با معرفی حلقهٔ Interface، دسترسی به عاملهای هوش مصنوعی را از طریق صوت و اشاره فراهم کرد. این گجت ۹۹ دلاری با ترکیب ردیابی سلامت و اکوسیستم چندعاملی، قصد دارد…
مایکروسافت با معرفی Surface Laptop Ultra، پردازشهای سنگین هوش مصنوعی را از ابر به روی سختافزار محلی میآورد. این دستگاه با قیمتهایی تا ۶۰۰۰ دلار، بازار کاربران حرفهای و…
پروژه Nova با استفاده از معماری ترکیبی لبه-ابر، امکان اجرای یک دستیار صوتی کامل و متنباز را روی سختافزار محدود Raspberry Pi 4 فراهم کرد. این سیستم با اولویتبخشی به پردازش محلی،…