موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۰۹۶ مقاله منتشر شده
پژوهشکنی از MIT و انویدیا با معرفی TriAttention، مصرف حافظه KV cache را تا ۱۰.۷ برابر کاهش دادهاند بدون آنکه صحت پاسخها افت کند. این متد با استفاده از رویکرد هندسی، اهمیت…
متا با معرفی خط تولید جدید عینکهای هوشمند با قیمت ۲۹۹ دلار، برندهای ریبن و اوکلی را کنار گذاشت تا دسترسی به این فناوری را تسهیل کند. در حالی که قابلیتهای فنی تغییری نکرده،…
پژوهشگران روشی را برای فشردهسازی تانسورهای BF16 در مدل GLM-5.2 ابداع کردند که بدون از دست دادن حتی یک بیت دقت، حجم وزنها را حدود ۲۵٪ کم میکند. این دستاورد با استفاده از نمایش…
یک توسعهدهنده راهنمای گامبهگام ساخت یک سامانه نظارتی سبک (War Room) برای عاملهای هوشمند را منتشر کرد. این سیستم با استفاده از FastAPI و HTML خالص، از مصرف منابع جلوگیری میکند…
آزمایشگاه Yang AI مدل بنیادی Inertia-1 را معرفی کرد که قادر است حرکات انسانی را بدون نیاز به آموزش مجدد، در هر نقطه از بدن و با هر نوع حسگری تحلیل کند. این مدل با بهرهگیری از ۱۸…
توسعهدهنده UsageCove Local چارچوبی را برای نظارت بر مصرف Codex در سیستمعامل macOS معرفی کرد که با حذف متن پرامپتها و مسیرهای خصوصی، حریم خصوصی برنامهنویسان را تضمین میکند.…
پروژهی متنباز cue با ایجاد یک لایهی شناور روی سیستمعامل macOS، محدودیت ابزارهای متمرکز در یک اپلیکیشن را میشکند. این ابزار میتواند محتوای صفحه و صدای جلسات را رصد کند و بدون…
سیاستهای سختگیرانهی Active Directory در سازمانها اغلب ابزارهای محلی هوش مصنوعی مانند Ollama را به دلیل باز کردن پورتهای شبکه مسدود میکنند. کتابخانه جدید kinako-llama-cpp با…
یک آزمایش دو هفتهای نشان میدهد اجرای مدلهای زبانی روی سختافزار شخصی بهدلیل نبود کارایی مراکز داده، هزینهی برق بیشتری دارد. عامل اصلی این مصرف، ارسال حجم بالای متن به عنوان…
ابزار Backbeat Forge نتنویسی دستی درامز را حذف و صداهای ضبطشده را به نتهای پنجخطی تبدیل میکند. این سیستم بهصورت محلی اجرا شده و خروجیهای PDF و MIDI ارائه میدهد.
دو رویکرد متضاد برای ساخت عاملهای موبایلی ظهور کردهاند: یک گوشی اختصاصی (Doubao) و یک لایهی نرمافزاری مستقل (Mobilerun). در حالی که سختافزار تجربهی یکپارچهتری میسازد،…
سیستمهای مقیاسدهی استاندارد هنگام وقوع رویدادهای جهانی شکست میخورند؛ زیرا زمان راهاندازی سختافزاری GPU دقایقی طول میکشد، در حالی که جهش ترافیک در چند ثانیه رخ میدهد.…