پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

آموزش کاربردی

«پایان نشت داده‌ها»؛ راهکار مدل‌های وزن‌باز برای بازبینی خصوصی کد

برنامه‌نویسان برای جلوگیری از نشت داده‌های حساس، به جای مدل‌های ابری به سمت استقرار محلی هوش مصنوعی روی سخت‌افزار شخصی روی می‌آورند. با استفاده از مدل‌های وزن‌باز و موتور استنتاج…

۱۱ دقیقه خواندن
آموزش کاربردی

سخت‌افزار خانگی در برابر H100؛ کاهش نیاز به خوشه‌های سازمانی

به لطف بهینه‌سازی‌های نرم‌افزاری پیشرفته، یک کارت گرافیک مصرف‌کننده RTX 4090 اکنون قادر است مدل‌های ۱۲۵ میلیارد پارامتری را با سرعت ۱۰۰ تریلیون توکن در ثانیه اجرا کند. این دستاورد…

۶ دقیقه خواندن
آموزش کاربردی

۶ مخزن گیت‌هاب برای استقرار محلی زیرساخت عامل‌های هوش مصنوعی

موج جدیدی از ابزارهای متن‌باز در حال انتقال زیرساخت عامل‌های هوش مصنوعی از ابر به سخت‌افزار محلی است. این ابزارها امکان مدیریت حافظه، دستیارهای خصوصی و ردیابی هزینه‌ها را بدون…

۷ دقیقه خواندن
آموزش کاربردی

AphasiaBridge با مدل Gemma-2B صدای بیماران آفازی را در ۱۷۴ میلی‌ثانیه بازگرداند

یک ابزار کمکی آفلاین به نام AphasiaBridge با تنظیم دقیق مدل Gemma-2B، کلمات تکه‌تکهٔ بیماران دچار آفازی را به جملات کامل تبدیل می‌کند. این سیستم با تأخیر بسیار کم و شبیه‌سازی صدای…

۱۱ دقیقه خواندن
آموزش کاربردی

OpenBrief چگونه با ایجاد اصطکاک در خروجی‌ها، تفکر انتقادی کاربر را برمی‌انگیزد؟

ابزار OpenBrief با اجرای محلی مدل‌های زبانی، متون طولانی را به خلاصه‌های قابل‌راستی‌آزمایی و پرسش‌های تفکر انتقادی تبدیل می‌کند. این سامانه با اولویت دادن به حریم خصوصی و ایجاد…

۱ دقیقه خواندن
آموزش کاربردی

Eat Well AI جست‌وجوی رستوران‌های رژیمی را به مرورگر کاربر منتقل کرد

یک ابزار متن‌باز جدید با اجرای مدل‌های زبانی کوچک در مرورگر، امکان جست‌وجوی رستوران‌های رژیمی را بدون ارسال داده به سرور فراهم می‌کند. این رویکرد حریم خصوصی داده‌های حساس مذهبی و…

۴ دقیقه خواندن