سامانه Echo: کاهش ۶۷ درصدی هزینه استنتاج با مدلهای وزنباز
سامانه Echo با جایگزینی تکمدل با شبکهای از مدلهای وزنباز، عملکردی مشابه سیستمهای ردهبالای Fable ارائه میدهد. این رویکرد هزینههای استنتاج را تا ۶۷ درصد کاهش داده است.
موضوع
Chain-of-thought, reasoning models (o-series, R-series), test-time compute
۲٬۰۴۹ مقاله منتشر شده
سامانه Echo با جایگزینی تکمدل با شبکهای از مدلهای وزنباز، عملکردی مشابه سیستمهای ردهبالای Fable ارائه میدهد. این رویکرد هزینههای استنتاج را تا ۶۷ درصد کاهش داده است.
اوپنایآی قابلیتهای سلامتی ChatGPT را برای تمامی کاربران بالای ۱۸ سال در آمریکا فعال کرد تا امکان تحلیل پروندههای پزشکی فراهم شود. این گسترش در حالی رخ میدهد که شرکت با شکایتی…
اتکای به فایلهای دستورالعمل برای کنترل رفتار عاملها ناکارآمد است زیرا مدلها ادعای پیروی میکنند بدون آنکه واقعاً بررسی شود. امنیت واقعی نیازمند انتقال کنترل از متن به لایهی…
تحلیلهای تخصصی نشان میدهد کارخانههای نرمافزاری «بدون نظارت انسانی» شکست میخورند، زیرا آموزشهای فعلی مدلها، عبور از تستها را بر حفظ کیفیت بلندمدت کد اولویت میدهند. راهکار…
پلتفرم Typebulb ابزاری برای تحلیل «اثرانگشت نویسندگی» ۲۲ مدل زبانی بزرگ معرفی کرد که شباهتهای سبکشناختی مدلهای آزمایشگاههای مختلف را میسنجد. این تحلیل نشان میدهد که مدلهای…
معماری جدیدی پیشنهاد شده که لایهای از استدلال هوش مصنوعی را به خطوط لوله CI/CD اضافه میکند تا ریسکهای زمینهای مانند حذفهای خطرناک SQL را شناسایی کند. این رویکرد با ترکیب…
آنتروپیک یک افزونه امنیتی بتا برای Claude Code معرفی کرد که با استفاده از یک خط لوله ششمرحلهای و پنلهای تأیید تخاصمی، مخازن کد را برای یافتن آسیبپذیریها اسکن میکند. این…
پلتفرم AIBridge مدل استدلالی Kimi K3 را با پنجره متنی عظیم یک میلیون توکنی ادغام کرد تا تحلیل کل کدهای یک پروژه در یک پرامپت ممکن شود. همچنین برای کاهش اصطکاک در ثبتنام، سیستم…
شرکت Cursor سامانه Cursor Router را معرفی کرد که با تحلیل پیچیدگی هر درخواست، آن را به بهینهترین مدل میسپارد. این رویکرد کیفیت خروجی مدلهای پیشرو را حفظ کرده و همزمان…
مقایسهٔ جامع دو مدل پرچمدار نشان میدهد که Claude Opus 4.8 در بنچمارکهای پیچیدهٔ کدنویسی پیشرو است، اما GPT-5.6 با استراتژی مدلهای لایهبندیشده (Sol, Terra, Luna)، هزینههای…
یک مدل زبانی کوچک با ۰.۶ میلیارد پارامتر توانست تنها پس از ۱۲ دقیقه آموزش محلی، به دقت ۱۰۰٪ در طبقهبندی اسناد دست یابد. این آزمایش نشان میدهد که تقطیر دانش نه تنها ساختار…
مدل Inkling با بهرهگیری از معماری پراکنده (Sparse)، ظرفیت عظیم ۹۷۵ میلیارد پارامتری خود را مدیریت میکند اما در هر لحظه تنها بخشی کوچک از شبکه را فعال میکند. این رویکرد اجازه…