موضوع
Open-source models, open weights, local hosting, licensing
۱٬۹۳۵ مقاله منتشر شده
مدلهای زبانی کوچک (SLM) با کاهش تأخیر و هزینهها، در وظایف تخصصی عملکردی بهتر از مدلهای غولپیکر دارند. شرکتها اکنون بهجای اجارهی APIهای گرانقیمت، با تنظیم دقیق مدلهای…
هگینگفیس پشتیبانی از مدلهای کوانتیده GGUF را به کتابخانه transformers اضافه کرد. این بهروزرسانی به توسعهدهندگان اجازه میدهد مدلهای بهینه را بدون نیاز به موتورهای خارجی و با…
اکثر چتباتهای هوش مصنوعی دادههای حساس کاربران را ذخیره میکنند و حریم خصوصی را به وعدههای شرکتی گره میزنند. ابزارهای جدید با استفاده از TEEها و مدلهای محلی، دسترسی…
مقیاسدهی خودکار بر اساس CPU برای مدلهای زبانی شکست میخورد زیرا گلوگاه واقعی در پهنایباند حافظه و KV-cache است. توسعهدهندگان با جایگزینی معیارهای سنتی با «عمق صف»، میتوانند…
شرکت هگینگفیس برای بهینهسازی ابزارهای هوش مصنوعی محلی روی تراشههای اپل، جُن کیم (خالق oMLX) را استخدام کرد. این اقدام باعث تبدیل oMLX از یک پروژه جانبی به یک ابتکار رسمی برای…
مدل MiMo-V2.6-Pro بر اساس تازهترین دادههای Artificial Analysis، به پیشروترین مدل در دستهبندی وزنهای باز تبدیل شده است. این تحلیل توازن میان سطح هوش، سرعت استنتاج و هزینهٔ هر…
شیائومی سری MiMo-V2.6 را با یک مدل پرچمدار ۱.۰۲ تریلیون پارامتری منتشر کرد که در حال حاضر رتبه اول جدول مدلهای وزنباز Artificial Analysis را در اختیار دارد. این مدل با…
مهندسی هوش مصنوعی از متدهای کد-محور به سمت تفویض وظایف حرکت میکند، اما این تغییر ریسک «کوری سیستمی» را افزایش میدهد. برای مقابله با این بحران، مهندسان باید مستندات معماری را…
یک آسیبپذیری بحرانی در نسخه متنباز Langflow به کاربران دارای دسترسی اجازه میدهد کدهای مخرب را روی سیستم میزبان اجرا کنند. این نقص ناشی از عدم اعتبارسنجی کدهای پایتون در بدنه…
یک گردشکار آفلاین جدید، اشتراکهای ماهانه و هزینههای دقیقهای ابزارهای ویدیو با هوش مصنوعی را با سیستم رندرینگ محلی جایگزین کرده است. این متد به تولیدکنندگان اجازه میدهد دهها…
شرکت AWS چارچوب متنباز Strands Harness را برای بهینهسازی مدیریت زمینه در عاملهای هوش مصنوعی معرفی کرد. این سیستم بدون کاهش دقت، هزینههای توکن را بهطور میانگین ۲۸٪ کاهش میدهد…
پژوهشگران دانشگاه جورجیا تک ابزاری تعاملی برای مشاهده گامبهگام محاسبات ریاضی مدل GPT-2 طراحی کردند. این پلتفرم سازوکارهای پیچیدهای مانند خودتوجهی و لایههای MLP را به دادههای…