پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

بحران جهانی حافظه؛ پیامد مستقیم مقیاس‌دهی «به‌زور» در هوش مصنوعی

مقیاس‌دهی ناکارآمد مدل‌های هوش مصنوعی زاینده باعث جهش قیمت حافظه و سخت‌افزار در سطح جهان شده است. کارشناسان هشدار می‌دهند که تقاضای شدید منابع ممکن است تا سال ۲۰۲۸ رایانه‌های…

۸ دقیقه خواندن۲
آموزش کاربردی

Nemotron 3 Embed چگونه دقت گردش‌کارهای عامل‌محور را افزایش می‌دهد؟

انویدیا مجموعه‌ای از مدل‌های بردار معنایی با وزن‌های باز را برای کاهش هزینه‌های توکن و افزایش دقت در گردش‌کارهای عامل‌محور منتشر کرد. مدل پرچم‌دار ۸ میلیاردی این مجموعه در حال…

۹ دقیقه خواندن

کمیسیون اروپا: داده‌های اندروید و جست‌وجوی گوگل باید برای رقبا باز شود

کمیسیون اروپا گوگل را مجبور کرد تا دسترسی رقبای هوش مصنوعی به ویژگی‌های سیستمی اندروید و داده‌های موتور جست‌وجو را فراهم کند. عدم اجرای این دستور می‌تواند گوگل را با جریمه‌هایی تا…

۳ دقیقه خواندن

گزارش وان‌پلاس: توقف فروش مدل‌های جدید در غرب جهت یکپارچگی با اوپو

شرکت وان‌پلاس عرضه مدل‌های جدید خود در آمریکای شمالی و اروپا را متوقف کرد تا تمرکز استراتژیک خود را بر برند مادر یعنی اوپو معطوف کند. کاربران فعلی همچنان پشتیبانی دریافت می‌کنند،…

۲ دقیقه خواندن

کرنل‌های Triton سرعت استنتاج مدل‌های کم‌رتبه را ۳.۷۶ برابر کرد

پژوهشگران با طراحی کرنل‌های سفارشی Triton، گلوگاه‌های حافظه‌ای در فشرده‌سازی مدل‌های Block Low-Rank را برطرف کردند. این بهینه‌سازی‌ها سرعت استنتاج را در سخت‌افزارهای محدود مانند…

۳۶ دقیقه خواندن

آیا معماری HBF می‌تواند گلوگاه‌های حافظه‌ای مدل‌های زبانی بزرگ را برطرف کند؟

دو غول حافظه با معرفی معماری High Bandwidth Flash (HBF) قصد دارند گلوگاه‌های حافظه‌ای مدل‌های عظیم هوش مصنوعی را برطرف کنند. این فناوری با کاهش وابستگی به حافظه‌های گران‌قیمت HBM،…

۵ دقیقه خواندن
زندگی با AIتأییدنشده · منبع منفرد

مدل‌های زبانی در برابر رابط گرافیکی؛ تغییر رویکرد در استقرار شبکه‌های MikroTik

یک بررسی فنی نشان می‌دهد که ترکیب مدل‌های زبانی بزرگ با APIهای REST در تجهیزات میکروتیک، فرآیند استقرار شبکه را متحول می‌کند. این رویکرد جایگزینی برای رابط‌های گرافیکی پیچیده است…

۵ دقیقه خواندن۱