
«فشردهسازی بدون تلفات»؛ دستاوردی جدید در بهینهسازی GLM-5.2
پژوهشگران روشی را برای فشردهسازی تانسورهای BF16 در مدل GLM-5.2 ابداع کردند که بدون از دست دادن حتی یک بیت دقت، حجم وزنها را حدود ۲۵٪ کم میکند. این دستاورد با استفاده از نمایش…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۷۷۸ مقاله منتشر شده

پژوهشگران روشی را برای فشردهسازی تانسورهای BF16 در مدل GLM-5.2 ابداع کردند که بدون از دست دادن حتی یک بیت دقت، حجم وزنها را حدود ۲۵٪ کم میکند. این دستاورد با استفاده از نمایش…

یک توسعهدهنده راهنمای گامبهگام ساخت یک سامانه نظارتی سبک (War Room) برای عاملهای هوشمند را منتشر کرد. این سیستم با استفاده از FastAPI و HTML خالص، از مصرف منابع جلوگیری میکند…

آزمایشگاه Yang AI مدل بنیادی Inertia-1 را معرفی کرد که قادر است حرکات انسانی را بدون نیاز به آموزش مجدد، در هر نقطه از بدن و با هر نوع حسگری تحلیل کند. این مدل با بهرهگیری از ۱۸…

توسعهدهنده UsageCove Local چارچوبی را برای نظارت بر مصرف Codex در سیستمعامل macOS معرفی کرد که با حذف متن پرامپتها و مسیرهای خصوصی، حریم خصوصی برنامهنویسان را تضمین میکند.…

پروژهی متنباز cue با ایجاد یک لایهی شناور روی سیستمعامل macOS، محدودیت ابزارهای متمرکز در یک اپلیکیشن را میشکند. این ابزار میتواند محتوای صفحه و صدای جلسات را رصد کند و بدون…

سیاستهای سختگیرانهی Active Directory در سازمانها اغلب ابزارهای محلی هوش مصنوعی مانند Ollama را به دلیل باز کردن پورتهای شبکه مسدود میکنند. کتابخانه جدید kinako-llama-cpp با…

یک آزمایش دو هفتهای نشان میدهد اجرای مدلهای زبانی روی سختافزار شخصی بهدلیل نبود کارایی مراکز داده، هزینهی برق بیشتری دارد. عامل اصلی این مصرف، ارسال حجم بالای متن به عنوان…

ابزار Backbeat Forge نتنویسی دستی درامز را حذف و صداهای ضبطشده را به نتهای پنجخطی تبدیل میکند. این سیستم بهصورت محلی اجرا شده و خروجیهای PDF و MIDI ارائه میدهد.

دو رویکرد متضاد برای ساخت عاملهای موبایلی ظهور کردهاند: یک گوشی اختصاصی (Doubao) و یک لایهی نرمافزاری مستقل (Mobilerun). در حالی که سختافزار تجربهی یکپارچهتری میسازد،…

سیستمهای مقیاسدهی استاندارد هنگام وقوع رویدادهای جهانی شکست میخورند؛ زیرا زمان راهاندازی سختافزاری GPU دقایقی طول میکشد، در حالی که جهش ترافیک در چند ثانیه رخ میدهد.…

مدلهای فوقکوچک بازشناسی گفتار مانند Moonshine، رابطهای صوتی را به میکروکنترلرها آوردهاند. این تغییر مسیر بیش از آنکه به دلیل کاهش هزینههای ابری باشد، ناشی از نیاز به…

یک توسعهدهنده مستقل مدلی با ۱ میلیارد پارامتر عرضه کرده است که قادر است فرمت استدلال مدل Claude را به صورت محلی بازتولید کند. این مدل با آموزش روی ردپاهای متنی (Traces) مدل…