«بدون کاهش کیفیت»؛ بهینهسازی زمان پاسخدهی در حجمهای پردازشی پایین
تکنیک رمزگشایی گمانهزنانه با استفاده از یک مدل کوچک برای پیشبینی توکنها و تأیید موازی آنها توسط مدل اصلی، سرعت خروجی را بدون کاهش کیفیت افزایش میدهد. این بهینهسازی در…
موضوع
Open-source models, open weights, local hosting, licensing
۲٬۳۹۶ مقاله منتشر شده
تکنیک رمزگشایی گمانهزنانه با استفاده از یک مدل کوچک برای پیشبینی توکنها و تأیید موازی آنها توسط مدل اصلی، سرعت خروجی را بدون کاهش کیفیت افزایش میدهد. این بهینهسازی در…
شرکت SpaceXAI با اهدای ۱.۵ میلیون دلار توکن محاسباتی به پروژه Omarchy Linux، وارد یک جنجال سیاسی در جامعه متنباز شد. این حمایت به دلیل سوابق نژادپرستانه بنیانگذار این توزیع،…
استارتاپ Goodfire با معرفی حسگرهای داخلی، هزینه نظارت بر رفتار عاملهای هوش مصنوعی را به شدت کاهش داد. این سیستم بهجای بررسی متن خروجی، فعالسازیهای عصبی مدل را میخواند تا…
بن افلک استارتاپ تولید فیلم InterPositive را به مبلغ ۵۸۷ میلیون دلار به نتفلیکس فروخت. این معامله نشان داد که افلک برخلاف بسیاری از سلبریتیها، تسلط عمیقی بر ریاضیات و کدنویسی…
شرکت JetBrains مدل Mellum2.1 را معرفی کرد؛ یک مدل استدلالی ۱۲ میلیارد پارامتری که با تمرکز بر یادگیری تقویتی در مخازن نرمافزاری واقعی، توانایی ویرایش فایل و رفع باگ را بهشدت…
پروژه متنباز WanderLog با استفاده از پروتکل MCP، یادداشتهای صوتی طبیعتگردان را به دادههای ساختاریافته تبدیل میکند. این سامانه با تکیه بر مدل Gemma 3 و پردازش کاملاً محلی،…
شرکت Goodfire با پیادهسازی یک سامانه دو مرحلهای «کاوشگر-داور»، هزینههای شناسایی تهدیدات سایبری در مدلهای Kimi K3 و GLM 5.3 را تا ۵۰ برابر کاهش داد. این روش بهجای تکیه بر…
ابزار متنباز YazSes امکان تایپ صوتی آفلاین و بدون نیاز به ابر را در تمامی برنامهها فراهم میکند. این ابزار با اجرای محلی مدل faster-whisper روی CPU، نیاز به کلید API و…
مؤسسه TII مدل Falcon-ASR را با ۱.۶ میلیارد پارامتر معرفی کرد که رکورد جدیدی در دقت تبدیل گفتار به متن برای لهجههای عربی و اماراتی ثبت کرده است. این مدل بدون نیاز به تعیین زبان،…
شرکت ایلومینا مدل SpliceAI2 را برای پیشبینی دقیقتر تغییرات RNA splicing معرفی کرد. این مدل با تحلیل توالیهای DNA، حجم بیشتری از گونههای مرتبط با بیماریهای نادر و سرطانهای…
گوگل اپلیکیشن AI Edge Foresight را برای مک عرضه کرد که با استفاده از مدلهای محلی، جلسات را بدون نیاز به اینترنت تبدیل به متن و مدیریت میکند. این ابزار با ترکیب یادداشتبرداری…
پروژه Nova با استفاده از معماری ترکیبی لبه-ابر، امکان اجرای یک دستیار صوتی کامل و متنباز را روی سختافزار محدود Raspberry Pi 4 فراهم کرد. این سیستم با اولویتبخشی به پردازش محلی،…