گلوگاه حرارتی؛ دلیل شکست عاملهای هوش مصنوعی در سختافزارهای لبه
سختافزارهای فعلی برای استنتاجهای تکمرحلهای بهینه شدهاند، اما حلقههای تکرارشونده در عاملهای هوش مصنوعی باعث گرمای شدید و کاهش شدید عملکرد (Thermal Throttling) میشوند. این…
موضوع
تراشهها، پردازندهها و تجهیزات فیزیکی مورد استفاده در اجرای مدلهای هوش مصنوعی
۷۴۲ مقاله منتشر شده
سختافزارهای فعلی برای استنتاجهای تکمرحلهای بهینه شدهاند، اما حلقههای تکرارشونده در عاملهای هوش مصنوعی باعث گرمای شدید و کاهش شدید عملکرد (Thermal Throttling) میشوند. این…
شرکت Waymo برای پردازش دادههای حسگرها و اجرای مدلهای هوش مصنوعی، تراشهای اختصاصی با معماری ۵ نانومتری طراحی کرده است. این اقدام با هدف کاهش هزینههای سختافزاری و خروج از سایه…
انویدیا با پرداخت ۶ میلیارد دلار برای لایسنس نرمافزار «کارخانه مدل» Poolside و جذب ۱۰۹ مهندس ارشد، گامی بلند برای تسلط بر لایه نرمافزاری هوش مصنوعی برداشت. این توافق شامل یک…
اوپنایآی حالت «فوقسریع» مدل GPT-5.6 Sol را معرفی کرد که با سرعت ۷۵۰ توکن در ثانیه پاسخ میدهد. این جهش سرعت، عاملهای هوش مصنوعی را از چتباتهای خطی به موتورهای استدلالی با…
سازمان مدیریت دره تنسی (TVA) تعرفه جدیدی را برای مراکز داده هوش مصنوعی وضع کرد تا مانع از افزایش قبض برق کاربران خانگی شود. این طرح شامل سرمایهگذاری ۱۳ میلیارد دلاری برای افزودن…
الگوهای معماری جدید اجازه میدهند نرمافزارهای کلاسیک، وظایف با زمان اجرای نمایی را به واحدهای پردازش کوانتومی (QPU) بسپارند. این رویکرد ترکیبی، بهرهبرداری از سختافزارهای…
اجرای همزمان بارهای سنگین هوش مصنوعی اغلب منجر به خطاهای بحرانی حافظه و توقف کامل سیستم میشود. جداسازی دریافت درخواست از اجرا با استفاده از BullMQ و Redis، امکان کنترل دقیق…
انویدیا تأیید کرد که OpenAI از سیستم GB200 NVL72 برای آموزش و استنتاج مدلهای پیشرو استفاده میکند. این تغییر نشاندهنده گذار از تمرکز بر تعداد GPUها به سمت زیرساختهای یکپارچه در…
یک آزمایش عملی نشان میدهد ترکیب رمزگشایی گمانهزنانه با بهینهسازیهای سطح BIOS و کرنل میتواند سرعت تولید توکن را در سرورهای خانگی چند-GPU دوبرابر کند. این روش با رفع گلوگاههای…
یک نشت نرمافزاری در نسخه MacOS Tahoe 26.7، شناسههای داخلی ۱۰ دستگاه منتشرنشده اپل را افشا کرد. این لیست شامل یک نمایشگر خانه هوشمند و مدل تاشوی آیفون ۱۸ است که نشاندهنده…
ایلان ماسک پیشبینی میکند که تا سال ۲۰۳۱، هوش مصنوعی از مجموع هوش تمام انسانها فراتر رود و مفاهیمی چون نیروی کار سنتی و پول را منسوخ کند. او برای دستیابی به این اقتصاد فراوانی،…
زبان برنامهنویسی Mojo اکنون تمام کدهای منبع کامپایلر و ابزارهای توسعه خود را بهصورت متنباز منتشر کرده است. این اقدام به توسعهدهندگان اجازه میدهد با شفافیت کامل، نرمافزارهای…