Tensormesh: کاهش شدید هزینههای GPU از طریق مدیریت KV-Cache
پلتفرم Tensormesh با مدیریت حافظه KV-Cache، امکان استفاده مجدد از محاسبات قبلی را برای مستندات تکراری فراهم میکند. این رویکرد از پردازش مجدد دادههای طولانی در GPU جلوگیری کرده و…
موضوع
تراشهها، پردازندهها و تجهیزات فیزیکی مورد استفاده در اجرای مدلهای هوش مصنوعی
۷۴۲ مقاله منتشر شده
پلتفرم Tensormesh با مدیریت حافظه KV-Cache، امکان استفاده مجدد از محاسبات قبلی را برای مستندات تکراری فراهم میکند. این رویکرد از پردازش مجدد دادههای طولانی در GPU جلوگیری کرده و…
علیبابا با ادغام پردازنده فوقکممصرف Himax در عینکهای Qwen N1، قابلیت حسگری محیطی مداوم را فعال کرد. این سیستم اجازه میدهد عینک بهعنوان یک عامل هوشمند پیشکنشگر عمل کند و…
سازنده گجت Friend برای رفع مشکل شخصیتهای خستهکننده، معماری دستگاه را به سمت یک هویت واحد و مشترک تغییر میدهد. در این مدل جدید، یک «ابر-دوست» جایگزین شخصیتهای فردی میشود تا از…
انویدیا با استقرار عاملهای هوش مصنوعی و دوقلوهای دیجیتال در شهرهای اروپا، عملیات شهری را خودکار میکند. نتایج اولیه در فرانسه نشاندهنده کاهش شدید زمان اداری و ۱۰٪ افت هزینههای…
شرکت ASML هشدار داد که ظرفیت تولید سیستمهای لیتوگرافی آن با سرعت رشد تقاضا برای تراشههای هوش مصنوعی همخوانی ندارد. این گلوگاه فیزیکی میتواند نقشه راه مقیاسپذیری سختافزاری AI…
شرکت Science Corporation نخستین تراشه PRIMA را برای بازگرداندن بینایی به بیمار مبتلا به بیماری استارگارت پیوند زد. این سیستم با استفاده از عینکهای دوربیندار، سلولهای آسیبدیده…
شرکت Pi با عرضه نسخه بتای API خود، امکان تنظیم دقیق مدلهای بنیادی رباتیک را روی زیرساختهای ابری فراهم کرد. این اقدام نیاز شرکتها به ساخت خط لولههای پیچیده یادگیری ماشین برای…
اندرو فلدمن، مدیرعامل Cerebras، هشدار میدهد که تمرکز بیش از حد بر سناریوهای آخرالزمانی هوش مصنوعی، پتانسیلهای حیاتی این فناوری در پزشکی را میپوشاند. او خواستار نظارت منطقی و…
شرکت Intercom با جایگزینی مدلهای GPT با یک مدل ۱۴ میلیارد پارامتری Qwen که برای تلخیص متون تنظیم شده بود، هزینههای استنتاج خود را بهشدت کاهش داد. این اقدام نشاندهنده ترندی…
شرکت Agility Robotics برای عرضه در نزدیکی نزدک، با شرکت Churchill Capital Corp XI ادغام میشود. این توافق ۶۲۰ میلیون دلار سرمایه برای تولید انبوه رباتهای انساننمای نسل جدید…
قاضی دادگاه ایالات متحده دستور داد OpenAI سوابق مصاحبهها و پیامهای خصوصی کارکنان سابق اپل را در اختیار این شرکت قرار دهد. این حکم بخشی از دعوای حقوقی اپل برای جلوگیری از سرقت…
یک پروژه دانشجویی MIT به دستگاهی پزشکی تبدیل شد که با ارتعاشات مکانیکی، لرزش دستهای بیماران را کاهش میدهد. این گجت بدون نیاز به جراحی، همان نواحی از مغز را هدف قرار میدهد که در…