مدل Fast کوهیر چگونه تأخیر در عاملهای هوش مصنوعی را کاهش میدهد؟
شرکت کوهیر خانواده مدلهای بردار معنایی Embed 5 را با دو سطح Pro و Fast معرفی کرد که از یک فضای برداری مشترک استفاده میکنند. مدل Pro در بازیابی دادههای مالی رکورد جدیدی ثبت کرده…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
شرکت کوهیر خانواده مدلهای بردار معنایی Embed 5 را با دو سطح Pro و Fast معرفی کرد که از یک فضای برداری مشترک استفاده میکنند. مدل Pro در بازیابی دادههای مالی رکورد جدیدی ثبت کرده…
شرکت Volantis با هدف حذف موازنه میان اندازه مدل و سرعت استنتاج، سامانه فوتونیکی A-1 را توسعه میدهد. این سختافزار میتواند مدلهای ۲۰ تریلیون پارامتری را با سرعت ۱۰ هزار توکن در…
شرکت Tenstorrent و Smallest.ai یک پشتهٔ سختافزاری-نرمافزاری برای اجرای مدلهای تبدیل متن به گفتار در محیطهای درونسازمانی معرفی کردند. این راهکار ادعا میکند بدون کاهش کیفیت…
شرکت کلودرا استراتژی خود را به سمت معماری ترکیبی تغییر داد تا سازمانها بتوانند هوش مصنوعی را دقیقاً در جایی که دادههایشان قرار دارد اجرا کنند. این اقدام برای کاهش هزینههای…
متیو شوارتز ابزار متنباز BootLoops 1.0 را برای تبدیل LLMها به ماشینهای محاسباتی با دقت بالا معرفی کرد. این سیستم توانسته است مسائل ریاضی ۲۰ ساله در حوزههای اکولوژی و ژنتیک را…
سونی با معرفی کتابخانه QSSR، فناوری افزایش وضوح مبتنی بر هوش مصنوعی را برای کاربران PS5 استاندارد فعال کرد. این بهروزرسانی نرمافزاری قصد دارد پایداری و شفافیت تصویری مدل Pro را…
شرکت Decagon با معرفی مدل صوتی Chord و پروتکل PACT، پلتفرم خود را از یک سیستم پاسخگویی ساده به یک ارکستراتور جامع تجربه مشتری تبدیل کرد. این بهروزرسانی بر مدیریت تعاملات بین…
پژوهشگران NVIDIA و KAIST با معرفی متد Mid-Harness، فیلترینگ دستورات را پیش از اجرا جایگزین اجرای مجدد کل مسیر کردند. این رویکرد بدون افت عملکرد، هزینههای محاسباتی را بهشدت کاهش…
پژوهشی جدید نشان میدهد رقابت آزاد برای اولویت در GPU میتواند تأخیر استنتاج را تا ۱۲ برابر افزایش دهد. نویسندگان برای حل این مشکل، مکانیزم حراجی مبتنی بر درخت را پیشنهاد کردهاند…
شیائومی با انتشار یک راهنمای فنی جامعهمحور، امکان اجرای محلی مدلهای چندوجهی خانواده MiMo را فراهم کرد. این منابع به توسعهدهندگان اجازه میدهد استنتاج بینایی-زبانی را بدون…
عاملهای هوش مصنوعی نمیتوانند بین دستورات کاربر و دادههای دریافتی از وب تمایز قائل شوند. این نقص امنیتی به مهاجمان اجازه میدهد با قرار دادن متنهای پنهان در صفحات وب، کنترل…
آپدیت جدید LlamaIndex با معرفی «استدلال ساختاری»، دقت استخراج داده از اسناد سازمانی را بدون افزایش هزینه افزایش داده است. این نسخه اکنون در لایهی اقتصادی، عملکرد لایههای…