پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۱٬۶۷۸ مقاله منتشر شده

کاربر روی لینکی در وب‌سایت کلیک می‌کند و ترمینال هوش مصنوعی با پرامپت از پیش بارگذاری‌شده باز می‌شود.
آموزش کاربردی

FLASH: ادغام مدل‌های زبانی محلی در ترمینال سیستم با دسترسی مستقیم به مرورگر

ابزار FLASH یک پوسته (Shell) هوشمند محلی است که اجازه می‌دهد دستورات AI را مستقیماً از طریق لینک‌های مرورگر اجرا کنید. این ابزار با حذف نیاز به کپی-پیست بین چت‌بات و ترمینال، محیط…

۸ دقیقه خواندن۵
میزبانی مدل‌های زبانی محلی روی تراشه‌های اپل با oMLX و دسترسی امن از راه دور
آموزش کاربردی

چطور oMLX محدودیت‌های حافظه را در اجرای مدل‌های محلی اپل می‌شکند؟

چارچوب oMLX با پیاده‌سازی حافظه پجینگ و استنتاج توزیع‌شده، امکان میزبانی مدل‌های بزرگ را روی سخت‌افزار اپل فراهم می‌کند. این ابزار به توسعه‌دهندگان اجازه می‌دهد مدل‌ها را با…

۴ دقیقه خواندن
عینک شنوایی هوش مصنوعی استارتاپ Legato با ۱۲ میلیون دلار سرمایه رونمایی شد

عینک‌های Legato با ۱۲ میلیون دلار سرمایه جایگزین سمعک‌های سنتی می‌شوند

استارتاپ Legato با جذب ۱۲ میلیون دلار سرمایه، عینکی هوشمند برای درمان کم‌شنوایی خفیف تا متوسط معرفی کرد. این محصول با هدف حذف انگ اجتماعی سمعک‌ها، صدای محیط را به‌صورت نامحسوس…

۴ دقیقه خواندن
مک استودیو M5 اولترا در برابر انویدیا DGX اسپارک: شرط ۵۵۰۰ دلاری هوش مصنوعی محلی
آموزش کاربردی

«بهینه‌ترین گزینه برای استنتاج»؛ تحلیل عملکرد M5 Ultra در برابر انویدیا

مک استودیو M5 Ultra با پهنای‌باند حافظه ۴.۴ برابر بیشتر از NVIDIA DGX Spark، گزینه‌ای بهینه برای استنتاج محلی مدل‌های زبانی بزرگ است. با این حال، انویدیا همچنان در زمینه تنظیم…

۷ دقیقه خواندن۱
موتور تکاملی VIDRAFT: چگونه مدل ۳۶ میلیارد پارامتری، غول‌های ۳۹۷ میلیاردی را به چالش کشید
آموزش کاربردی

Darwin-36B در برابر مدل‌های غول‌پیکر؛ پیروزی بازترکیب تکاملی بر حجم داده

مدل جدید Darwin-36B-Opus توانست در یکی از سخت‌ترین محک‌های استدلال، با مدلی ۱۱ برابر بزرگ‌تر برابری کند. این دستاورد به‌جای آموزش سنگین با GPU، از طریق یک فرآیند تکاملی برای ترکیب…

۴ دقیقه خواندن۱
لپ‌تاپ کامپیوتر قابل حمل روی میز چوبی در کنار قهوه و عینک.

پردازش محلی در برابر ابری؛ رویکرد جدید Perplexity برای داده‌های حساس

پرتپلکسیتی با معرفی Portable Computer، امکان اجرای کامل عامل‌های هوش مصنوعی را روی سخت‌افزار محلی کاربر فراهم کرد. این سیستم با حذف هزینه‌های توکن و افزایش حریم خصوصی، تحلیل…

۴ دقیقه خواندن۳