حافظه مجازی در برابر تخصیص ایستا در مدیریت KV-Cache
مهندسی استنتاج از تخصیص حافظه ایستا به سمت سیستم‌های حافظه مجازی حرکت می‌کند تا از هدررفت VRAM جلوگیری کند. پیاده‌سازی PagedAttention و دسته‌بندی پیوسته، تکه‌تکه شدن حافظه را حذف…
۲ دقیقه خواندن۱
موضوع
سخت‌افزار هوش مصنوعی
تراشه‌ها، پردازنده‌ها و تجهیزات فیزیکی مورد استفاده در اجرای مدل‌های هوش مصنوعی
۴۵۶ مقاله منتشر شده
اکسیس کامیونیکیشنز ۹۰٪ پردازش‌های هوش مصنوعی را به لبهٔ شبکه منتقل کرد
شرکت اکسیس با ترکیب تراشه‌های تخصصی و مدل‌های بهینه، پردازش داده‌ها را از ابر به داخل دوربین‌ها منتقل کرده است. این تغییر باعث کاهش شدید تأخیر و هزینه‌های پهنای باند در سیستم‌های…
۱۰ دقیقه خواندن
چرا هوش اجتماعی گلوگاه بعدی توسعهٔ ربات‌های GMEX Robotics است؟
شرکت GMEX Robotics با تغییر استراتژی از یکپارچگی عمودی به مدل «ترمینال + مغز»، بر هوش اجتماعی ربات‌ها تمرکز کرده است. هدف این شرکت انتقال ربات‌ها از محیط‌های ساختاریافتهٔ انبارها…
۸ دقیقه خواندن۱
«عامل‌های همیشه‌فعال»؛ هدف جدید انویدیا از عرضه نسخه ۶۴ گیگابایتی
انویدیا نسخه ۶۴ گیگابایتی سیستم دسکتاپ DGX Spark را برای اجرای محلی مدل‌های ۳۰ میلیارد پارامتری و عامل‌های همیشه‌فعال معرفی کرد. این سخت‌افزار هزینه‌های متغیر API را حذف کرده و…
۶ دقیقه خواندن۱
Teravolt: تقاضای هوش مصنوعی شهری تا سال ۲۰۳۶ به ۱۸ گیگاوات می‌رسد
زیرساخت‌های هوش مصنوعی برای حل مشکل تأخیر در سیستم‌های رباتیک و بلادرنگ، از مراکز دادهٔ دوردست به «لایه‌های شهری» منتقل می‌شوند. برآورد شرکت Teravolt نشان می‌دهد این تغییر مسیر…
۹ دقیقه خواندن۳
Hestus با جذب ۷.۴ میلیون دلار، طراحی مهندسی مکانیک را خودکار می‌کند
استارتاپ Hestus برای ساخت مدلی از «هوش مکانیکی» ۷.۴ میلیون دلار سرمایه جذب کرد تا کارهای تکراری در نرم‌افزارهای CAD را حذف کند. هدف این شرکت عبور از تکمیل خودکار ساده و رسیدن به…
۴ دقیقه خواندن۱
درون طرح استتار مراکز داده مایکروسافت برای مقابله با آلودگی صوتی
مایکروسافت برای کاهش اعتراضات محلی، از رویکرد «بیومیمیکری» یا تقلید از طبیعت برای استتار مراکز دادهٔ عظیم خود استفاده می‌کند. این اقدام در پاسخ به شکایت ساکنان از آلودگی صوتی و…
۴ دقیقه خواندن۲
Cerebras: افزایش ۵ برابری توان عملیاتی استنتاج با معماری تفکیک‌شده
شرکت Cerebras با تفکیک مراحل پیش‌پُرکردن و رمزگشایی در سخت‌افزارهای مجزا، توان عملیاتی استنتاج را ۵ برابر افزایش داد. این معماری ناهمگن اجازه می‌دهد هر مرحله بر اساس ماهیت…
۵ دقیقه خواندن
آیا استارشیپ می‌تواند زیرساخت‌های ابری گوگل را به فضا ببرد؟
گوگل نخستین ماهواره محاسباتی خود را برای آزمایش تراشه‌های TPU در محیط پرتاب کرد. تحلیل‌های این شرکت نشان می‌دهد تحقق مراکز داده فضایی به کاهش شدید هزینه‌های پرتاب و افزایش چشمگیر…
۴ دقیقه خواندن
پژوهشگران مستقل: ESP32 قابلیت‌های رادیویی مستندی را پنهان کرده است
پژوهشگران مستقل دریافتند که برخی میکروکنترلرهای ارزان‌قیمت ESP32 می‌توانند پروتکل‌های استاندارد وای‌فای و بلوتوث را دور بزنند و نمونه‌های خام رادیویی را ثبت کنند. این کشف امکان…
۳ دقیقه خواندن۲
OpenDLSS-NR: بازسازی دقیق شبکه رندرینگ انویدیا با Vulkan
یک پروژه متن‌باز موفق شد شبکه رندرینگ عصبی DLSS 5 انویدیا را مهندسی معکوس کند و پیاده‌سازی Vulkan آن را با دقت بیت-به-بیت (Bit-Exact) بازسازی کند. این دستاورد اجازه می‌دهد فرآیند…
۷ دقیقه خواندن
«تقاضای هوش مصنوعی»؛ عامل محدودیت عرضه رم برای پی‌سی‌ها
شرکت‌های میکرون و سامسونگ هشدار دادند که تقاضای شدید برای حافظه‌های سرورهای هوش مصنوعی، عرضه رم برای لپ‌تاپ‌ها و پی‌سی‌های گیمینگ را تا سال ۲۰۲۸ محدود می‌کند.
۲ دقیقه خواندن