«کمبود قطعات حافظه»؛ دلیل گران شدن محصولات مصرفی انویدیا
انویدیا قیمت دستگاه قدیمی Shield TV Pro را به ۲۹۹.۹۹ دلار رساند. این شرکت دلیل این افزایش قیمت را کمبود جهانی قطعات حافظه میداند که مستقیماً توسط تقاضای مدلهای هوش مصنوعی زاینده…
موضوع
تراشهها، پردازندهها و تجهیزات فیزیکی مورد استفاده در اجرای مدلهای هوش مصنوعی
۷۴۲ مقاله منتشر شده
انویدیا قیمت دستگاه قدیمی Shield TV Pro را به ۲۹۹.۹۹ دلار رساند. این شرکت دلیل این افزایش قیمت را کمبود جهانی قطعات حافظه میداند که مستقیماً توسط تقاضای مدلهای هوش مصنوعی زاینده…
متا پروژه متنباز Muse Gadgets را برای ساخت سختافزارهای سفارشی معرفی کرد. این اقدام عامل هوش مصنوعی Muse را از یک چتبات ساده به اکوسیستمی فیزیکی برای توسعهدهندگان و کسبوکارها…
پلتفرم Prime Inference با جداسازی فرآیندهای پیشپُرکردن و رمزگشایی روی سختافزار Blackwell، گلوگاه تأخیر در مدلهای بازمتن را هدف قرار داده است. این سیستم بهویژه برای عاملهای…
یک مشاور سختافزاری جدید با استفاده از پروتکل MCP، محاسبات پیچیده GPU و VRAM را بهجای تخمین متنی، از طریق اجرای کد بازبینی میکند. این رویکرد نرخ توهمات مدل در تخمین حافظه و…
به دلیل هزینههای محاسباتی بهینهساز، تنظیم دقیق کامل یک مدل ۷ میلیارد پارامتری ۸ برابر بیشتر از حجم خود مدل حافظه میطلبد. تکنیکهای LoRA و QLoRA با منجمد کردن وزنها و کاهش دقت،…
یک تحلیل فنی از استقرار مدل Qwen 3.8 27B روی سختافزار اپل با ۱۲۸ گیگابایت رم. این پیکربندی با استفاده از YaRN و رمزگشایی گمانهزنانه، ظرفیت پردازش متن را برای کدهای حجیم به ۵۱۲…
متا با انتشار SDKهای متنباز، امکان ساخت گجتهای فیزیکی مبتنی بر عامل Muse را برای توسعهدهندگان فراهم کرد. این اقدام، Muse را از یک ابزار نرمافزاری به یک اکوسیستم سختافزاری…
فعالسازی قابلیت پیشبینی چندتوکنی (MTP) در کارت گرافیک RTX 3090، توان عملیاتی مدل Qwen3.8-27B را از ۳۶ به ۵۶.۲ توکن بر ثانیه رساند. با این حال، آزمایشها نشان میدهد این افزایش…
شرکت Muse با انتشار کیتهای توسعه نرمافزاری (SDK) برای دستگاههای لینوکس و ESP32، امکان ساخت گجتهای هوش مصنوعی سفارشی را برای همه فراهم کرد. این اقدام، اکوسیستم Muse را از یک…
موتور استنتاج DwarfStar 4 با استفاده از کوانتش نامتقارن ۲ بیتی و استریمینگ حافظه از SSD، اجرای مدلهای عظیم MoE مانند DeepSeek V4 را روی ورکاستیشنهای خانگی ممکن کرده است.
مهندسی استنتاج از تخصیص حافظه ایستا به سمت سیستمهای حافظه مجازی حرکت میکند تا از هدررفت VRAM جلوگیری کند. پیادهسازی PagedAttention و دستهبندی پیوسته، تکهتکه شدن حافظه را حذف…
شرکت اکسیس با ترکیب تراشههای تخصصی و مدلهای بهینه، پردازش دادهها را از ابر به داخل دوربینها منتقل کرده است. این تغییر باعث کاهش شدید تأخیر و هزینههای پهنای باند در سیستمهای…