مدل‌های بازوزن

مدل ۹ میلیارد پارامتری Lift با حذف مرحله تبدیل به Markdown، داده‌های ساختاریافته را مستقیماً از تصاویر PDF به JSON تبدیل می‌کند. این مدل در سرعت استنتاج از Gemini Flash 3.5 جلو…

پروژه‌ی WebGPU Privacy Studio با انتقال کامل پردازش مدل‌ها به مرورگر، هزینه‌های سرور و ریسک‌های حریم خصوصی را حذف می‌کند. هدف این بهینه‌سازی، کاهش زمان بارگذاری مدل‌ها به زیر ۱۰…

ابزار متن‌باز SWT با بهره‌گیری از چارچوب FunASR، امکان تبدیل گفتار به متن را به‌صورت کاملاً آفلاین فراهم می‌کند. این نرم‌افزار با انتقال استنتاج به سخت‌افزار کاربر، ریسک نشت…

تیم‌های حساس در حوزه‌های دفاعی و مالی برای جلوگیری از نشت داده‌ها به پایگاه‌های دانشی نیاز دارند که کاملاً آفلاین عمل کنند. این راهنما ۶ ابزار میزبانی‌-شخصی را از هاب‌های یکپارچه…

استقرار محلی مدل‌های زبانی بزرگ، تأخیر شبکه را حذف کرده و ریسک نشت داده‌ها را به صفر می‌رساند. توسعه‌دهندگان بسته به نیاز مقیاس‌پذیری، می‌توانند بین کانتینری‌سازی، رایانش بدون…

گزارشی میدانی نشان می‌دهد مدل‌های زبانی محلی در وظایف پیچیده‌ی کدنویسی به‌دلیل محدودیت سخت‌افزاری شکست می‌خورند. این یافته‌ها رویکردی ترکیبی را پیشنهاد می‌کند: مدل‌های ابری برای…

ابزار متن‌باز Frugon با تحلیل محلی لاگ‌های درخواست‌ها، نقاط نشت هزینه در APIهای هوش مصنوعی را شناسایی می‌کند. این ابزار پیشنهاد می‌دهد کارهای ساده به مدل‌های ارزان‌تر منتقل شوند…

پلتفرم AIDA با حذف مدل‌های اشتراکی، امکان استقرار کامل عامل‌های هوش مصنوعی را روی سرورهای شخصی کاربر فراهم می‌کند. این رویکرد با اولویت دادن به حاکمیت داده‌ها، ریسک‌های امنیتی…

پژوهشگران مؤسسه بروکینگز هشدار می‌دهند که رابط‌های بستهٔ هوش مصنوعی با محدود کردن کنترل کاربر بر زمینه، باعث تحلیل مهارت‌های شناختی می‌شوند. آن‌ها راهکار «حداکثرسازی زمینه» از…

برنامه‌نویسان در حال جایگزینی نقاط انتهایی بسته با مدل‌های وزن‌باز مانند Llama 3 و Mistral هستند. این چرخش اجازه می‌دهد تا کنترل داده‌ها، تنظیم دقیق مدل و هزینه‌های مقیاس‌پذیر…

سیستم Foreman یک درگاه میزبانی‌-شخصی است که ترافیک مدل‌ها را بر اساس سیاست‌های کاربر به ارزان‌ترین مدل سالم هدایت می‌کند. این ابزار با نگه داشتن کلیدهای API در شبکه داخلی، وابستگی…

شرکت‌های IBM و Red Hat سرویس تجاری Lightwell را برای شناسایی و رفع سریع آسیب‌پذیری‌های امنیتی در مقیاس صنعتی معرفی کردند. این اقدام برای مقابله با اکسپلویت‌های ارزان‌قیمتی است که…