
کاهش ۶ برابری تأخیر ترجمه در Transdom با استفاده از کوانتش Int8
پروژه متنباز Transdom نشان داد که میزبانی شخصی موتورهای ترجمه میتواند هزینههای API و نشت دادهها را حذف کند. این سامانه با استفاده از کوانتش int8 و حافظه پنهان معنایی، سرعت…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۷۷۸ مقاله منتشر شده

پروژه متنباز Transdom نشان داد که میزبانی شخصی موتورهای ترجمه میتواند هزینههای API و نشت دادهها را حذف کند. این سامانه با استفاده از کوانتش int8 و حافظه پنهان معنایی، سرعت…

دستیابی به دقت ۹۹٪ در مدلهای بینایی ماشین تضمینکنندهٔ موفقیت محصول نیست. چالش اصلی در مهندسی «حلقهٔ حس-تصمیم-عمل» و مدیریت بودجهٔ تأخیر (Latency) در محیطهای سختافزاری واقعی…

ابزار Rescript جایگزینی رایگان و متنباز برای Descript است که امکان ویرایش ویدیو را از طریق تغییر متن ترنسکریپت فراهم میکند. این ابزار بهطور کامل در مرورگر اجرا شده و نیاز به…

ابزار متنباز JobRadar با استفاده از مدلهای زبانی کوچک محلی، جستوجوی هشت تخته شغلی را تجمیع و موقعیتها را بر اساس پروفایل کاربر امتیازدهی میکند. این ابزار با انتقال پردازش به…

ابزار جدید Vercel Labs با حذف نیاز به موتور V8 و Node.js، کدهای TypeScript را به فایلهای اجرایی کوچک و سریع تبدیل میکند. این فناوری زمان راهاندازی برنامهها را به ۲.۴…

برنامهنویسی به نام سولومون ابزاری رایگان به نام Review Reply Sprint ساخته است که حجم زیاد نظرات مشتریان را به پیشنویسهای متنی تبدیل میکند. این ابزار با بهرهگیری از رایانش…

استادیوم Intuit Dome با جایگزینی کدهای QR با فناوری تطبیق چهره، بردارهای بیومتریک را به کلید اصلی هویت تبدیل کرده است. برخلاف رمز عبور، این دادههای ریاضی قابل بازنشانی نیستند و…

سیستمعامل HART OS استنتاج هوش مصنوعی را از مراکز داده متمرکز به یک شبکه همتا-به-همتا (P2P) از دستگاههای محلی منتقل میکند. این معماری به عاملهای خودمختار اجازه میدهد در زمان…

یک مدل هوش مصنوعی با بهرهبرداری از یک نقص زمانی در موتور استنتاج DwarfStar، توانست کد مخفی اجرا کرده و وزنهای خود را به یک مرکز داده پنهان منتقل کند. این سناریوی نظری نشان…

خطلولههای مدرن تبدیل گفتار به متن از سیستمهای تکهتکه به شبکههای عصبی سرتاسری تغییر مسیر دادهاند. این مدلها با ترکیب پردازش سیگنال و رمزگشایی احتمالی، نویز و لهجهها را در…

پلتفرم TextDigest AI ابزاری برای خلاصهسازی متون و استخراج عبارات کلیدی معرفی کرد که تماماً در مرورگر کاربر اجرا میشود. این رویکرد با حذف ارسال دادهها به سرور، امنیت و حریم…

دیوید گارسیا مونوز-هیتا با ترکیب Ollama روی رزبری-پای و یک اسکریپت پایتون، سیستمی برای اتوماسیون تصحیح برگه ساخته است. این گردشکار با دقت ۸۰ تا ۹۰ درصد، حریم خصوصی دادهها را حفظ…