چطور OpenJev استخراج دادههای درونی مدل را سریعتر میکند؟
پلتفرم OpenJev با معرفی روش خوانش مستقیم لاجیتها، جایگزینی سریعتر و دقیقتر برای تولید توکن در مرورگر ارائه کرده است. این ابزار تفاوت میان استخراج احتمالات درونی مدل و تولید متن…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۲٬۰۴۹ مقاله منتشر شده
پلتفرم OpenJev با معرفی روش خوانش مستقیم لاجیتها، جایگزینی سریعتر و دقیقتر برای تولید توکن در مرورگر ارائه کرده است. این ابزار تفاوت میان استخراج احتمالات درونی مدل و تولید متن…
اجرای مدلهای زبانی روی سختافزار شخصی، هزینههای API و ریسکهای حریم خصوصی را حذف میکند. انتخاب ابزار مناسب به سطح تخصص فنی شما بستگی دارد: llama.cpp موتور خام، Ollama رابط…
متا عامل هوش مصنوعی Muse را به سیستمعامل macOS آورد تا بتواند فایلها را سازماندهی کرده و با برنامههای سیستمی ادغام شود. این ابزار از یک ماشین مجازی امن برای اجرای کارهای واقعی…
استارتاپ PrismML با معرفی مدل Bonsai 2 27B، مدل استدلالی Qwen3.8 را بهگونهای فشرده کرد که روی رایانههای شخصی و گوشیهای هوشمند اجرا شود. این مدل با استفاده از وزنهای سهگانه،…
شرکت PrismML مدل چندوجهی Ternary Bonsai 2 27B را معرفی کرد که با کاهش شدید حجم حافظه به ۵.۹ گیگابایت، ۹۸ درصد از توانمندی مدل اصلی را حفظ میکند. این مدل امکان اجرای هوش مصنوعی…
نسخه ۵.۶۷.۰ افزونه GOMAX Ultimate با افزودن یک پنل پرسوجوی هوشمند، امکان دریافت پاسخهای مستند از دادههای داخلی سایت را فراهم کرد. مدیران سایت اکنون میتوانند بدون خروج از…
آزمایشگاه Wispr مدل Canto را برای بازشناسی گفتار در محیطهای واقعی و شلوغ معرفی کرد. این مدل در تستهای مقایسهای، کمترین نرخ خطای کلمه را برای دیکتهٔ آنی در شرایط دشوار ثبت کرده…
AutoBot یک چارچوب متنباز برای مدیریت عاملهای هوش مصنوعی است که با استفاده از حافظه سلسلهمراتبی و اصلاح خودکار گردشکار، عملکرد ChatGPT را در محیطهای پیچیده سیستمعامل بهبود…
بسیاری از ابزارهای هوش مصنوعی میزبانیشده، نیازهای واقعی سختافزاری را در مستندات خود کمتر از حد واقعی اعلام میکنند. یک گردشکار جدید برای اعتبارسنجی مشخصات فنی از طریق بررسی…
ابزار Hister یک موتور جستوجوی متمرکز بر حریم خصوصی است که متن کامل صفحات وب بازدیدشده و فایلهای محلی شما را ایندکس میکند. این سیستم امکان بازیابی اطلاعات شخصی را بدون تکیه بر…
آزمونهای عملی روی اپلیکیشن PixAI نشان میدهد ابزارهای موبایلی هوش مصنوعی از تولیدکنندههای ساده به مجموعههای خلاقانه تبدیل شدهاند. این پلتفرم با ادغام گالری تصاویر و ویرایش…
برنامهنویسان در حال انتقال کارهای سادهی خودکارسازی از APIهای گرانقیمت ابری به مدلهای محلی مانند Mistral و Llama هستند. این تغییر هزینهها و تأخیر را حذف کرده و امنیت کدهای…