چرا سیاستهای امنیتی سازمانها مانع استقرار LLMهای محلی میشوند؟
سیاستهای سختگیرانهی Active Directory در سازمانها اغلب ابزارهای محلی هوش مصنوعی مانند Ollama را به دلیل باز کردن پورتهای شبکه مسدود میکنند. کتابخانه جدید kinako-llama-cpp با…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۲٬۰۴۹ مقاله منتشر شده
سیاستهای سختگیرانهی Active Directory در سازمانها اغلب ابزارهای محلی هوش مصنوعی مانند Ollama را به دلیل باز کردن پورتهای شبکه مسدود میکنند. کتابخانه جدید kinako-llama-cpp با…
یک آزمایش دو هفتهای نشان میدهد اجرای مدلهای زبانی روی سختافزار شخصی بهدلیل نبود کارایی مراکز داده، هزینهی برق بیشتری دارد. عامل اصلی این مصرف، ارسال حجم بالای متن به عنوان…
ابزار Backbeat Forge نتنویسی دستی درامز را حذف و صداهای ضبطشده را به نتهای پنجخطی تبدیل میکند. این سیستم بهصورت محلی اجرا شده و خروجیهای PDF و MIDI ارائه میدهد.
دو رویکرد متضاد برای ساخت عاملهای موبایلی ظهور کردهاند: یک گوشی اختصاصی (Doubao) و یک لایهی نرمافزاری مستقل (Mobilerun). در حالی که سختافزار تجربهی یکپارچهتری میسازد،…
سیستمهای مقیاسدهی استاندارد هنگام وقوع رویدادهای جهانی شکست میخورند؛ زیرا زمان راهاندازی سختافزاری GPU دقایقی طول میکشد، در حالی که جهش ترافیک در چند ثانیه رخ میدهد.…
مدلهای فوقکوچک بازشناسی گفتار مانند Moonshine، رابطهای صوتی را به میکروکنترلرها آوردهاند. این تغییر مسیر بیش از آنکه به دلیل کاهش هزینههای ابری باشد، ناشی از نیاز به…
یک توسعهدهنده مستقل مدلی با ۱ میلیارد پارامتر عرضه کرده است که قادر است فرمت استدلال مدل Claude را به صورت محلی بازتولید کند. این مدل با آموزش روی ردپاهای متنی (Traces) مدل…
پدرو شاکور یک کلاینت متنباز برای iOS منتشر کرد که به عنوان یک پیجر (Pager) برای مدیریت عاملهای Grok Build عمل میکند. این ابزار به توسعهدهندگان اجازه میدهد تا زمان اجرای…
انویدیا با همکاری دولت و غولهای صنعتی ژاپن، زیرساخت ملی «نوئترا» را برای رباتیک پیشرفته میسازد. هدف این استراتژی، استقرار ۱۰ میلیون ربات مجهز به هوش مصنوعی در بخش تولید ژاپن تا…
توسعه نرمافزار از نوشتن خطبهخط کد به سمت مدیریت سامانههای چندعاملی حرکت میکند. پروتکل MCP و ظهور عاملهای خودگردان، نحوه ساخت، استقرار و عیبیابی اپلیکیشنها را بهطور کلی…
یک مهندس نرمافزار موتور شبکهای ساخته است که با استفاده از شبکههای عصبی، جعل موقعیت GPS را شناسایی میکند. این سیستم با تلفیق همزمانی زبان Go و تشخیص ناهنجاری در PyTorch،…
اپل در دادگاهی ادعا کرده است که OpenAI با جذب مهندسان این شرکت، اسرار تجاری مربوط به طراحی سختافزار را دزدیده است. این پرونده درست زمانی رخ میدهد که OpenAI برای عرضه یک بلندگوی…