
گزارش Oxlo.ai: بهینهسازی پهنای باند حافظه مصرف برق LLM را کاهش داد
مصرف برق به گلوگاه اصلی تولید AI تبدیل شده است. Oxlo.ai با ترکیبی از کوانتش، معماری MoE و دستهبندی پویا، هزینه انرژی گردشکارهای عاملمحور را به شدت کاهش داده است.
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۶۶۵ مقاله منتشر شده

مصرف برق به گلوگاه اصلی تولید AI تبدیل شده است. Oxlo.ai با ترکیبی از کوانتش، معماری MoE و دستهبندی پویا، هزینه انرژی گردشکارهای عاملمحور را به شدت کاهش داده است.

در حالی که تمرکز جهان بر مدلهای غولآسا است، «هوش مصنوعی کوچک» با سختافزارهای ارزانقیمت، ابزارهای تشخیص بیماری را به مناطق بدون اینترنت و برق میرساند. این مدلهای تخصصی و…

اپلیکیشن Swipe Cleaner با استفاده از یادگیری ماشین محلی، فرآیند پاکسازی گالری عکس را خودکار کرده است. این ابزار با شناسایی عکسهای تکراری و تار بهصورت کاملاً دروندستگاهی، تضاد…

پروژه Ternlight یک مدل بردار معنایی بسیار کوچک معرفی کرده است که بهجای سرور، مستقیماً روی CPU کاربر و در مرورگر اجرا میشود. این رویکرد نیاز به فراخوانهای API و زیرساختهای ابری…

پروژه متنباز Riddle با ترکیب مدلهای بینایی و شبیهساز دستخط، تبلت reMarkable Paper Pro را به یک دفترچه خاطرات تعاملی تبدیل کرده است. این سیستم دستخط کاربر را میخواند و…

بسیاری از استقرارهای اینترنت اشیاء صنعتی (AIoT) به دلیل رانش سنسورها و خستگی اپراتورها از هشدارهای زیاد، پس از شش ماه شکست میخورند. موفقیت در این حوزه نیازمند جایگزینی…

پلتفرم BizNode با انتقال پردازش عاملهای هوشمند به سختافزار محلی کاربر، مدل پرداخت اشتراکی ماهانه را کنار گذاشته است. این سیستم با تلفیق مدلهای زبانی محلی و RAG، مدیریت مشتریان…

مهندسی معکوس شناسهی Global Device Identifier (GDID) نشان میدهد که این کد یک PUID ۶۴ بیتی است که توسط سرورهای مایکروسافت تخصیص مییابد. برخلاف شایعات، این شناسه بر اساس سریال…

اپل در آخرین بتای iOS 27 امکان شخصیسازی سرعت و لحن صوتی سیری را فراهم کرد. این بهروزرسانی با افزودن کنترلهای دقیق، تلاش میکند تعامل با دستیار هوشمند را انسانیتر و طبیعیتر…

ترکیب سختافزارهای مخفی و هوش مصنوعی در محصولات جدید متا، موجی از نگرانیها درباره حریم خصوصی ایجاد کرده است. از سریالهای نتفلیکس تا واکنشهای تند در شبکههای اجتماعی، همگی به یک…

چارچوب Swarm با بهرهگیری از قابلیتهای Swift 6.2، امنیت تایپی در زمان کامپایل و قابلیت بازیابی از崩溃 را به ارکستراسیون عاملهای هوش مصنوعی میآورد. این ابزار اجازه میدهد خط…

شرکت آنتروپیک نسخه دسکتاپ Claude Code را برای لینوکس منتشر کرد تا تجربه کاربری در توزیعهای دبیان و اوبونتو را یکپارچه کند. با این حال، تستهای اولیه نشان میدهد این ابزار علیرغم…