طراحی معماری پایدار در برابر تولید سریع کد؛ برتری تخصص مهندسی
عاملهای هوش مصنوعی در تولید کد پیشرفت کردهاند، اما در طراحی معماریهای پایدار ناتواناند. اکنون توانایی مهندسان ارشد در مدیریت «درزهای نرمافزاری» و قابلیت عیبیابی، ارزشمندتر…
موضوع
Open-source models, open weights, local hosting, licensing
۲٬۳۹۶ مقاله منتشر شده
عاملهای هوش مصنوعی در تولید کد پیشرفت کردهاند، اما در طراحی معماریهای پایدار ناتواناند. اکنون توانایی مهندسان ارشد در مدیریت «درزهای نرمافزاری» و قابلیت عیبیابی، ارزشمندتر…
اوپنایآی دسترسی بومی مدل Codex را از طریق اپلیکیشن دسکتاپ ChatGPT برای لینوکس فراهم کرد. این بهروزرسانی با حذف نیاز به کپی-پیست، امکان تعامل مستقیم مدل با سیستم فایل و ترمینال…
یک راهنمای عملی جدید روش میزبانی شخصی رباتهای هوش مصنوعی در واتساپ را روی سیستمهای ویندوزی آموزش میدهد. این متد با ترکیب Node.js و Ollama، نیاز به پرداخت هزینههای ماهانه ابری…
دانه-بندی یا Granularity در کوانتش تعیین میکند چه تعداد از وزنها از یک ضریب مقیاس مشترک استفاده کنند. این سازوکار مستقیماً بر توازن میان سربار حافظه و دقت مدل اثر میگذارد و…
دادههای کالیبراسیون دانش جدیدی به مدل نمیدهند، بلکه تعیین میکنند کدام خطاهای گرد کردن برای ورودیهای خاص قابلتحمل هستند. عدم تطابق این دادهها با محیط عملیاتی منجر به افت شدید…
تنظیم اندازهٔ گروه (Group Size) در کوانتش، یک اهرم ریاضی برای مدیریت حافظه است، نه یک متغیر تصادفی. کاهش این اندازه با ایزوله کردن وزنهای پرت، دقت مدل را حفظ میکند اما فضای VRAM…
مدلهای زبانی بزرگ در مقیاسهای بالا «ویژگیهای پرت» ایجاد میکنند که دقت کوانتش ۸ بیتی را بهطور کامل تخریب میکند. مدیریت این مقادیر حدی، مرز میان یک مدل فشردهی کاربردی و مدلی…
فرآیند کوانتش مدلها بهدلیل نیاز به وزنهای دقتبالا و محاسبات آماری، حافظه بسیار بیشتری نسبت به استنتاج مصرف میکند. شناخت تفاوتهای حافظهای در متدهای GPTQ، AWQ و GGUF برای…
کوانتش یکپارچه در مدلهای بینایی-زبانی (VLM) منجر به تخریب شدید دقت بصری میشود. با حفظ دقت کامل در برج بینایی و لایه سازگارساز و کوانتش تنها در بدنه زبانی، میتوان حافظه را به…
یک راهنمای فنی جدید، خط لولهای جامع برای آموزش مدلهای زبانی کوچک در استفاده از ابزارهای خارجی ارائه داده است. این فرآیند با استفاده از مجموعه داده XYZ-Aquila-SFT و آداپتورهای…
یک توسعهدهنده مستقل با عرضه Local Waifu، مدل جدیدی از همراهان هوش مصنوعی را معرفی کرد که تماماً روی سختافزار کاربر اجرا میشود. این پروژه پاسخی است به نگرانیهای مربوط به سانسور…
ابزار جدید RepoTrials با تبدیل تاریخچه Git یک پروژه به تستهای رگرسیون تکرارپذیر، امکان ارزیابی دقیق مدلهای هوش مصنوعی را روی کدبیس واقعی تیمها فراهم میکند. این رویکرد جایگزینی…