پرش به محتوای اصلی

موضوع

مدل‌های بازوزن

Open-source models, open weights, local hosting, licensing

۲٬۳۹۶ مقاله منتشر شده

زندگی با AI

طراحی معماری پایدار در برابر تولید سریع کد؛ برتری تخصص مهندسی

عامل‌های هوش مصنوعی در تولید کد پیشرفت کرده‌اند، اما در طراحی معماری‌های پایدار ناتوان‌اند. اکنون توانایی مهندسان ارشد در مدیریت «درزهای نرم‌افزاری» و قابلیت عیب‌یابی، ارزشمندتر…

۵ دقیقه خواندن۱
آموزش کاربردی

دسترسی بومی Codex به فایل‌ها و ترمینال لینوکس در نسخه پیش‌نمایش

اوپن‌ای‌آی دسترسی بومی مدل Codex را از طریق اپلیکیشن دسکتاپ ChatGPT برای لینوکس فراهم کرد. این به‌روزرسانی با حذف نیاز به کپی-پیست، امکان تعامل مستقیم مدل با سیستم فایل و ترمینال…

۵ دقیقه خواندن۱
آموزش کاربردی

تحلیلِ Granularity: تاثیر مستقیمِ تعدادِ ضرایبِ مقیاس بر سربارِ متاداده

دانه-بندی یا Granularity در کوانتش تعیین می‌کند چه تعداد از وزن‌ها از یک ضریب مقیاس مشترک استفاده کنند. این سازوکار مستقیماً بر توازن میان سربار حافظه و دقت مدل اثر می‌گذارد و…

۶ دقیقه خواندن۴
آموزش کاربردی

تحلیل کوانتش: عدم تطابق داده‌های کالیبراسیون عامل فروپاشی فرمت خروجی است

داده‌های کالیبراسیون دانش جدیدی به مدل نمی‌دهند، بلکه تعیین می‌کنند کدام خطاهای گرد کردن برای ورودی‌های خاص قابل‌تحمل هستند. عدم تطابق این داده‌ها با محیط عملیاتی منجر به افت شدید…

۵ دقیقه خواندن
آموزش کاربردی

«مدیریت مقادیر حدی»؛ کلید جلوگیری از فروپاشی مدل‌های زبانی فشرده

مدل‌های زبانی بزرگ در مقیاس‌های بالا «ویژگی‌های پرت» ایجاد می‌کنند که دقت کوانتش ۸ بیتی را به‌طور کامل تخریب می‌کند. مدیریت این مقادیر حدی، مرز میان یک مدل فشرده‌ی کاربردی و مدلی…

۵ دقیقه خواندن۱
آموزش کاربردی

درون فرآیند کوانتش؛ تضاد میان وزن‌های دقت‌بالا و بهینه‌سازی حافظه

فرآیند کوانتش مدل‌ها به‌دلیل نیاز به وزن‌های دقت‌بالا و محاسبات آماری، حافظه بسیار بیشتری نسبت به استنتاج مصرف می‌کند. شناخت تفاوت‌های حافظه‌ای در متدهای GPTQ، AWQ و GGUF برای…

۵ دقیقه خواندن۲

Local Waifu: شرط مالکیت واقعی در عصر همراهان هوش مصنوعی

یک توسعه‌دهنده مستقل با عرضه Local Waifu، مدل جدیدی از همراهان هوش مصنوعی را معرفی کرد که تماماً روی سخت‌افزار کاربر اجرا می‌شود. این پروژه پاسخی است به نگرانی‌های مربوط به سانسور…

۸ دقیقه خواندن۲
آموزش کاربردی

RepoTrials: تبدیل تاریخچه Git به بنچ‌مارک‌های اختصاصی برای عامل‌های کدنویس

ابزار جدید RepoTrials با تبدیل تاریخچه Git یک پروژه به تست‌های رگرسیون تکرارپذیر، امکان ارزیابی دقیق مدل‌های هوش مصنوعی را روی کدبیس واقعی تیم‌ها فراهم می‌کند. این رویکرد جایگزینی…

۳ دقیقه خواندن۲