
۵ توزیع لینوکس برای تسهیل استقرار محلی مدلهای زبانی
پنج توزیع لینوکس با بهینهسازی هسته و یکپارچهسازی ابزارهای هوش مصنوعی، سد ورود برای اجرای محلی LLMها را کاهش دادهاند. این تغییر رویکرد، تمرکز را از تنظیمات دستی درایورها به سمت…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۷۶۳ مقاله منتشر شده

پنج توزیع لینوکس با بهینهسازی هسته و یکپارچهسازی ابزارهای هوش مصنوعی، سد ورود برای اجرای محلی LLMها را کاهش دادهاند. این تغییر رویکرد، تمرکز را از تنظیمات دستی درایورها به سمت…

بررسی ۱۱ چارچوب مدیریت عاملها نشان میدهد که عملکرد مدلهای محلی بیش از آنکه به خودِ مدل وابسته باشد، به «هارنس» یا همان سیستم مدیریت ابزارها و وضعیت وابسته است. تنظیم پنجرهٔ…

پلتفرم OpenJev با معرفی روش خوانش مستقیم لاجیتها، جایگزینی سریعتر و دقیقتر برای تولید توکن در مرورگر ارائه کرده است. این ابزار تفاوت میان استخراج احتمالات درونی مدل و تولید متن…

اجرای مدلهای زبانی روی سختافزار شخصی، هزینههای API و ریسکهای حریم خصوصی را حذف میکند. انتخاب ابزار مناسب به سطح تخصص فنی شما بستگی دارد: llama.cpp موتور خام، Ollama رابط…

متا عامل هوش مصنوعی Muse را به سیستمعامل macOS آورد تا بتواند فایلها را سازماندهی کرده و با برنامههای سیستمی ادغام شود. این ابزار از یک ماشین مجازی امن برای اجرای کارهای واقعی…

استارتاپ PrismML با معرفی مدل Bonsai 2 27B، مدل استدلالی Qwen3.8 را بهگونهای فشرده کرد که روی رایانههای شخصی و گوشیهای هوشمند اجرا شود. این مدل با استفاده از وزنهای سهگانه،…

شرکت PrismML مدل چندوجهی Ternary Bonsai 2 27B را معرفی کرد که با کاهش شدید حجم حافظه به ۵.۹ گیگابایت، ۹۸ درصد از توانمندی مدل اصلی را حفظ میکند. این مدل امکان اجرای هوش مصنوعی…

نسخه ۵.۶۷.۰ افزونه GOMAX Ultimate با افزودن یک پنل پرسوجوی هوشمند، امکان دریافت پاسخهای مستند از دادههای داخلی سایت را فراهم کرد. مدیران سایت اکنون میتوانند بدون خروج از…

آزمایشگاه Wispr مدل Canto را برای بازشناسی گفتار در محیطهای واقعی و شلوغ معرفی کرد. این مدل در تستهای مقایسهای، کمترین نرخ خطای کلمه را برای دیکتهٔ آنی در شرایط دشوار ثبت کرده…

AutoBot یک چارچوب متنباز برای مدیریت عاملهای هوش مصنوعی است که با استفاده از حافظه سلسلهمراتبی و اصلاح خودکار گردشکار، عملکرد ChatGPT را در محیطهای پیچیده سیستمعامل بهبود…

بسیاری از ابزارهای هوش مصنوعی میزبانیشده، نیازهای واقعی سختافزاری را در مستندات خود کمتر از حد واقعی اعلام میکنند. یک گردشکار جدید برای اعتبارسنجی مشخصات فنی از طریق بررسی…

ابزار Hister یک موتور جستوجوی متمرکز بر حریم خصوصی است که متن کامل صفحات وب بازدیدشده و فایلهای محلی شما را ایندکس میکند. این سیستم امکان بازیابی اطلاعات شخصی را بدون تکیه بر…