«دور زدن گلوگاه حافظه»؛ راهکار جدید برای شتاببخشی به توکنها
تکنیک رمزگشایی گمانهزنانه با استفاده از یک مدل کوچک برای پیشبینی توکنها و تأیید موازی آنها توسط مدل اصلی، گلوگاه پهنایباند حافظه GPU را دور میزند. این روش بدون کاهش کیفیت،…
موضوع
Open-source models, open weights, local hosting, licensing
۲٬۳۹۶ مقاله منتشر شده
تکنیک رمزگشایی گمانهزنانه با استفاده از یک مدل کوچک برای پیشبینی توکنها و تأیید موازی آنها توسط مدل اصلی، گلوگاه پهنایباند حافظه GPU را دور میزند. این روش بدون کاهش کیفیت،…
موتور استنتاج متنباز Strata با استفاده از معماری حافظه ترکیبی، اجرای مدلهای عظیم مانند Qwen3.8-Flash-Next را روی سیستمهای گیمینگ با ۱۲ گیگابایت VRAM ممکن میکند. این ابزار با…
پلتفرم متنباز Kortix با انتقال تعریف عاملها، حافظه و اتصالها به یک مخزن git، وابستگی شرکتها به تامینکنندگان ابری را از بین میبرد. این سیستم برخلاف پلتفرمهای اجارهای، کنترل…
ابزار SCM با اجرای مدلهای بینایی و نویسهخوانی نوری بهصورت محلی، امکان جستوجوی معنایی در عکسها و فریمهای ویدیو را بدون نیاز به ابر فراهم میکند. این سیستم با ترکیب مدلهای…
ناسا و آیبیام یک مدل بنیادی متنباز را برای خودکارسازی علوم قمری عرضه کردند که بر اساس ۱۷ سال دادههای ماهوارهای آموزش دیده است. این مدل در پیشبینی ذخایر یخ قطبی و شناسایی…
شرکت Stepfun مدل Step 3.7 Flash را معرفی کرد؛ یک مدل ۱۹۸ میلیارد پارامتری که به لطف معماری پراکنده، با هزینه و سرعت یک مدل ۱۱ میلیارد پارامتری اجرا میشود. این مدل با معرفی «حالت…
عامل هوش مصنوعی oh-my-pi با معرفی سیستم Hashline، خطاهای رایج در ویرایش کد را حذف و نرخ موفقیت مدل Grok را ۱۰ برابر افزایش داد. این ابزار بهجای تکرار خطوط کد، از شناسههای…
توسعهدهندگان برای فرار از سهمیههای سختگیرانه و وابستگی به ابر، به Open Design روی آوردهاند. این موتور طراحی متنباز با معماری «کلید شخصی»، امکان تعویض مدلها و حذف محدودیتهای…
برخلاف ابزارهای سنتی که اسلایدهای ایستا تولید میکنند، open-slide یک فریمورک مبتنی بر React است که به عاملهای هوش مصنوعی اجازه میدهد اجزای تعاملی بسازند. این ابزار بیش از آنکه…
شرکت Moonshot AI مدل وزنباز Kimi K2.7-Code را برای بهینهسازی کدنویسی عاملمحور منتشر کرد. این مدل با کاهش «بیشفکری» (Overthinking) و بهینهسازی زنجیره تفکر، کارایی استنتاج را…
چارچوب متنباز AIPass با ایجاد یک لایهی ارتباطی مبتنی بر ایمیل، به عاملهای هوش مصنوعی اجازه میدهد برای رفع خطاها با یکدیگر هماهنگ شوند. در این سیستم، عاملها بهجای تکیه بر…
دیپسیک نسخهی ۰.۲ چارچوب dsh را بهصورت اپلیکیشنهای دسکتاپ برای ویندوز و مک عرضه کرد. این بهروزرسانی محیط اجرای عاملها را به سیستمی ماژولار تبدیل میکند که در آن تمام لایهها،…