آداپتورهای پایتون توهمات JSON در مدلهای محلی را برطرف میکنند
مدلهای زبانی محلی اغلب خروجیهای JSON معیوبی تولید میکنند که باعث توقف خطوط تولید نرمافزاری میشود. یک لایه سازگارساز جدید با استفاده از orjson و Pydantic v2، این خطاها را در…
موضوع
Open-source models, open weights, local hosting, licensing
۲٬۳۹۶ مقاله منتشر شده
مدلهای زبانی محلی اغلب خروجیهای JSON معیوبی تولید میکنند که باعث توقف خطوط تولید نرمافزاری میشود. یک لایه سازگارساز جدید با استفاده از orjson و Pydantic v2، این خطاها را در…
یک محک جدید نشان میدهد مدلهای زبانی کوچک و ارزان در شناسایی فقدان داده در خطوط لوله (Pipelines) دقیقتر از مدلهای گرانقیمت هستند. این مطالعه ثابت میکند که دستورالعملهای…
یک محک جدید نشان میدهد مدلهای پیشرو مانند Gemini و Gemma بهجای پذیرش ناتوانی در خواندن متون محو شده، دادههای محتمل اما ساختگی تولید میکنند. این «جعلِ مطمئن» خطرات جدی برای…
پروژه متنباز SunSeat با ترکیب مدلهای زبانی کوچک و دادههای جغرافیایی، به کاربران کمک میکند بدون نیاز به اینترنت، بهترین نیمکتهای آفتابی شهر را بیابند. این ابزار با اجرای محلی…
محک جدیدی به نام Judge Bait نشان میدهد مدلهای زبانی کوچک هنگام داوری، صحت پاسخ را فدای نشانههای ظاهری مثل برچسب «تأیید شده» میکنند. در حالی که مدلهای پیشرو استوار ماندند،…
ترکیب زبان Rust و عاملهای هوش مصنوعی محلی، امکان پردازش کامل دادههای خام سنسور دوربین را بدون نیاز به ابر فراهم میکند. این رویکرد با حذف وابستگی به سرور، حریم خصوصی کاربر را…
جریان سرمایهگذاری در هوش مصنوعی از مدلهای عمومی به سمت زیرساختهای تأیید، تصمیمگیری ساختاریافته و استقرار حاکمیتی تغییر مسیر داده است. ارزشگذاری خیرهکننده TypeSafe و مدل…
آزمون عملی عاملهای هوش مصنوعی محلی روی مک استودیو M5 Ultra نشان میدهد که با وجود حریم خصوصی کامل، تجربه کاربری همچنان تکهتکه و مستعد خطا است. حتی ۲۵۶ گیگابایت رم هم فعلاً…
کوانتش با تبدیل اعداد ۱۶ بیتی به ۸ بیتی، حافظه مورد نیاز مدلها را نصف میکند، اما وجود حتی یک مقدار پرت (Outlier) میتواند خطای کل مدل را بهصورت نمایی افزایش دهد. تکنیکهای…
پروژه Outward با استفاده از تکنیک تقطیر، یک مدل زبانی بزرگ ۴ میلیارد پارامتری را به مدلی با ۲۷۰ میلیون پارامتر تبدیل کرد تا یک بازی داستانی پیچیده را بهصورت کاملاً آفلاین روی…
پروژه متنباز OpenAmer با معرفی یک «دفتر کل نتایج»، امکان کنترل مستقیم دسکتاپ را برای عاملهای هوش مصنوعی فراهم میکند. این سیستم برخلاف چتباتهای معمول، اقدامات خود را ثبت و…
فریمورک MLX اپل امکان بهینهسازی محلی مدلهای زبانی را بدون نیاز به پردازندههای انویدیا یا ابر فراهم میکند. یک نمایش عملی نشان داد که با استفاده از QLoRA و حافظه یکپارچه، یک…