پرش به محتوای اصلی

موضوع

سخت‌افزار هوش مصنوعی

تراشه‌ها، پردازنده‌ها و تجهیزات فیزیکی مورد استفاده در اجرای مدل‌های هوش مصنوعی

۷۴۲ مقاله منتشر شده

«کمبود قطعات حافظه»؛ دلیل گران شدن محصولات مصرفی انویدیا

انویدیا قیمت دستگاه قدیمی Shield TV Pro را به ۲۹۹.۹۹ دلار رساند. این شرکت دلیل این افزایش قیمت را کمبود جهانی قطعات حافظه می‌داند که مستقیماً توسط تقاضای مدل‌های هوش مصنوعی زاینده…

۳ دقیقه خواندن۱

پروژه Muse Gadgets: یک SDK برای تبدیل مدل‌های زبانی به ابزارهای فیزیکی

متا پروژه متن‌باز Muse Gadgets را برای ساخت سخت‌افزارهای سفارشی معرفی کرد. این اقدام عامل هوش مصنوعی Muse را از یک چت‌بات ساده به اکوسیستمی فیزیکی برای توسعه‌دهندگان و کسب‌وکارها…

۳ دقیقه خواندن

درون معماری Prime Inference برای رفع گلوگاه‌های تأخیر در پنجره‌های متنی طولانی

پلتفرم Prime Inference با جداسازی فرآیندهای پیش‌پُرکردن و رمزگشایی روی سخت‌افزار Blackwell، گلوگاه تأخیر در مدل‌های بازمتن را هدف قرار داده است. این سیستم به‌ویژه برای عامل‌های…

۴ دقیقه خواندن
آموزش کاربردی

اعتبارسنجی کدنویس؛ راهکار HelgardorLM برای حذف خطاهای محاسباتی در سخت‌افزار AI

یک مشاور سخت‌افزاری جدید با استفاده از پروتکل MCP، محاسبات پیچیده GPU و VRAM را به‌جای تخمین متنی، از طریق اجرای کد بازبینی می‌کند. این رویکرد نرخ توهمات مدل در تخمین حافظه و…

۶ دقیقه خواندن
آموزش کاربردی

تحلیل حافظه: تنظیم دقیق مدل ۷ میلیاردی نیازمند ۱۱۲ گیگابایت رم

به دلیل هزینه‌های محاسباتی بهینه‌ساز، تنظیم دقیق کامل یک مدل ۷ میلیارد پارامتری ۸ برابر بیشتر از حجم خود مدل حافظه می‌طلبد. تکنیک‌های LoRA و QLoRA با منجمد کردن وزن‌ها و کاهش دقت،…

۴ دقیقه خواندن۱
آموزش کاربردی

SDKهای جدید Muse چگونه امکان ساخت سخت‌افزارهای هوش مصنوعی شخصی را می‌دهند؟

شرکت Muse با انتشار کیت‌های توسعه نرم‌افزاری (SDK) برای دستگاه‌های لینوکس و ESP32، امکان ساخت گجت‌های هوش مصنوعی سفارشی را برای همه فراهم کرد. این اقدام، اکوسیستم Muse را از یک…

۳ دقیقه خواندن

اکسیس کامیونیکیشنز ۹۰٪ پردازش‌های هوش مصنوعی را به لبهٔ شبکه منتقل کرد

شرکت اکسیس با ترکیب تراشه‌های تخصصی و مدل‌های بهینه، پردازش داده‌ها را از ابر به داخل دوربین‌ها منتقل کرده است. این تغییر باعث کاهش شدید تأخیر و هزینه‌های پهنای باند در سیستم‌های…

۱۰ دقیقه خواندن۱