
Frugon هزینههای API مدلهای زبانی را با مسیریابی هوشمند ۳۷٪ کاهش داد
ابزار متنباز Frugon با تحلیل محلی لاگهای درخواستها، نقاط نشت هزینه در APIهای هوش مصنوعی را شناسایی میکند. این ابزار پیشنهاد میدهد کارهای ساده به مدلهای ارزانتر منتقل شوند…
موضوع
Open-source models, open weights, local hosting, licensing
۱٬۹۴۷ مقاله منتشر شده

ابزار متنباز Frugon با تحلیل محلی لاگهای درخواستها، نقاط نشت هزینه در APIهای هوش مصنوعی را شناسایی میکند. این ابزار پیشنهاد میدهد کارهای ساده به مدلهای ارزانتر منتقل شوند…

پلتفرم AIDA با حذف مدلهای اشتراکی، امکان استقرار کامل عاملهای هوش مصنوعی را روی سرورهای شخصی کاربر فراهم میکند. این رویکرد با اولویت دادن به حاکمیت دادهها، ریسکهای امنیتی…

پژوهشگران مؤسسه بروکینگز هشدار میدهند که رابطهای بستهٔ هوش مصنوعی با محدود کردن کنترل کاربر بر زمینه، باعث تحلیل مهارتهای شناختی میشوند. آنها راهکار «حداکثرسازی زمینه» از…

برنامهنویسان در حال جایگزینی نقاط انتهایی بسته با مدلهای وزنباز مانند Llama 3 و Mistral هستند. این چرخش اجازه میدهد تا کنترل دادهها، تنظیم دقیق مدل و هزینههای مقیاسپذیر…

سیستم Foreman یک درگاه میزبانی-شخصی است که ترافیک مدلها را بر اساس سیاستهای کاربر به ارزانترین مدل سالم هدایت میکند. این ابزار با نگه داشتن کلیدهای API در شبکه داخلی، وابستگی…

شرکتهای IBM و Red Hat سرویس تجاری Lightwell را برای شناسایی و رفع سریع آسیبپذیریهای امنیتی در مقیاس صنعتی معرفی کردند. این اقدام برای مقابله با اکسپلویتهای ارزانقیمتی است که…

انویدیا معتقد است وزنهای باز به تنهایی برای ساخت عاملهای هوشمند کافی نیستند و توسعهدهندگان برای پیشبینیپذیر کردن رفتار عاملها به مجموعهدادههای باز و سنتتیک نیاز دارند. این…

مدل جدید آنتروپیک در ۶ شاخص تخصصی از جمله پزشکی و حقوق، تمام رقبا را شکست داد. با این حال، هزینه استنتاج این مدل تا ۱۰۰ برابر گرانتر از جایگزینهای میانرده است.

پلتفرم Chatto با هدف اولویت دادن به حریم خصوصی و سرعت، بهصورت متنباز منتشر شد. کاربران اکنون میتوانند این برنامه را بهطور رایگان روی زیرساختهای خود میزبانی کنند یا از سرویس…

کتابخانه vLLM با بهروزرسانی بکاِند خود، سرعت استنتاج مدلهای ترنسفورمر را با نسخههای دستنویس و بومی برابر کرد. اکنون توسعهدهندگان میتوانند بدون نوشتن کدهای پیچیده و سفارشی،…

دولتهای آمریکا و چین در حال تبدیل بازار جهانی هوش مصنوعی به بلوکهای ملی هستند. این تغییر باعث میشود دسترسی به پیشرفتهترین مدلها به جای معیارهای فنی، بر اساس ملیت و مرزهای…

شرکت Robbyant متعلق به Ant Group مدل بنیادی LingBot-VLA 2.0 را بهصورت متنباز منتشر کرد. این مدل با استفاده از ۶۰ هزار ساعت داده، قادر است ۲۰ نوع ربات مختلف را مدیریت کند و…