موضوع
روشی برای آموزش مدل‌های هوش مصنوعی با استفاده از چندین پردازنده یا سرور به‌صورت همزمان
۷۳ مقاله منتشر شده
مؤسسه Allen AI با معرفی Olmo-core 3، زیرساختی باز برای آموزش مدل‌های «ترکیب خبره‌ها» ارائه کرد که گلوگاه‌های ارتباطی در مقیاس تریلیون پارامتر را برطرف می‌کند. این سیستم با تغییر…
اتحاد هوش مصنوعی (AI Alliance) نخستین گام فنی پروژه Tapestry را برای آموزش مدل‌های بنیادی بدون اشتراک‌گذاری داده‌های خام به پایان رساند. هند و ویتنام اکنون از این زیرساخت برای…
کتابخانه RapidsMPF انویدیا با حل مشکل حافظه در تحلیل داده‌های توزیع‌شده، امکان جابه‌جایی حجم عظیم داده‌ها را بدون توقف سیستم فراهم می‌کند. این ابزار با مدیریت هوشمند حافظه میزبان،…
مایکروسافت ابزار TauGrid را تحت لایسنس MIT منتشر کرد تا مدیریت صف‌بندی و نظارت بر GPUها را در محیط کوبرنتیز یکپارچه کند. این پشتهٔ نرم‌افزاری نیاز تیم‌های پلتفرم به ترکیب دستی…
هواوی با معرفی OceanStor M900، گلوگاه حافظه در عامل‌های هوش مصنوعی با پنجره‌های متنی بسیار بلند را حل کرد. این سامانه با ارائه حافظه مشترک در مقیاس پتابایت، تأخیر دسترسی را ۹۰٪…
تیم Linum با معرفی معماری JiT-DDT، نیاز به خودرمزگذار وردشی (VAE) را حذف و آموزش مدل‌های تبدیل متن به تصویر را ۳.۶ برابر سریع‌تر کرد. این رویکرد جدید با انتقال به فضای پیکسل،…
شرکت CoreWeave نخستین خوشهٔ چند-رکی NVIDIA Vera Rubin NVL72 را مستقر کرد که صدها GPU را به عنوان یک سیستم واحد مدیریت می‌کند. این زیرساخت برای مدل‌های عامل‌محور که به مقیاس عظیم و…
یک عامل مشاور جدید با استفاده از پلتفرم Oxlo.ai، تنظیمات سخت‌افزاری آموزش مدل‌های زبانی را ممیزی می‌کند تا از اتلاف منابع GPU جلوگیری کند. این ابزار با شناسایی گلوگاه‌ها در اندازه…
پراپلکسیتی تمام چرخه حیات مدل‌های خود را به ابر Crusoe منتقل کرد تا با استفاده از خوشه‌های GB300 انویدیا، سرعت پاسخ‌دهی را برای میلیون‌ها کاربر افزایش دهد. این همکاری بر کاهش…
شرکت Mingxin با معرفی معماری ذخیره‌سازی لایه‌ای برای KV Cache، گلوگاه حافظه در مدل‌های با زمینه بلند را برطرف کرد. این رویکرد در مدل‌های ۴۸۰ میلیارد پارامتری، زمان تا نخستین توکن…
سیستم جدید یادگیری بازنمایی فدرال پراکنده (SFRL) به کاوشگرهای سیاره‌ای اجازه می‌دهد بدون اشغال پهنای‌باند محدود، دانش زمین‌شناسی تخصصی خود را به اشتراک بگذارند. این رویکرد با…
آمازون ابزاری متن‌باز برای خودکارسازی استقرار و مدیریت خوشه‌های عظیم یادگیری ماشین معرفی کرد. این سامانه با ترکیب EKS و SageMaker HyperPod، پیچیدگی‌های زیرساختی را به یک رابط…