پرش به محتوای اصلی

موضوع

مدل‌های بازوزن

Open-source models, open weights, local hosting, licensing

۲٬۳۹۶ مقاله منتشر شده

آموزش کاربردی

محاسبهٔ حافظهٔ VRAM برای مدل‌های محلی؛ فراتر از وزن‌های مدل

اجرای مدل‌های زبانی بزرگ به‌صورت محلی نیازمند حافظه‌ای بیش از حجم وزن‌های مدل است. حافظهٔ KV Cache در پنجره‌های متنی بلند می‌تواند تا ۱۴ گیگابایت فضای اضافی اشغال کند و باعث کندی…

۳ دقیقه خواندن۲

آژانس‌های امنیتی آمریکا: هوش مصنوعی اتوماسیون حملات به کنترلرهای صنعتی زیمنس را

NSA، FBI و CISA هشدار دادند که مهاجمان از هوش مصنوعی برای ساخت سریع اسکریپت‌های نفوذ به سیستم‌های کنترل صنعتی استفاده می‌کنند. این تغییر، سد فنی برای حمله به زیرساخت‌های حیاتی…

۱ دقیقه خواندن۱
آموزش کاربردی

DFlash 2 توان عملیاتی مدل‌های زبانی را تا ۴.۶ برابر افزایش داد

شرکت Inco AI با معرفی DFlash 2، مکانیزم رمزگشایی گمانه‌زنانه را بهینه‌تر کرد تا توکن‌ها به‌جای توالی، به‌صورت موازی پیش‌بینی شوند. این به‌روزرسانی سرعت استنتاج را در مدل‌های خاص…

۱۱ دقیقه خواندن۱

«جاودانگی آماری»؛ تبدیل هر کلمهٔ انسانی به بخشی از معماری LLM

آزمایشگاه‌های پیشرو در هوش مصنوعی تمام متون دیجیتال موجود در وب را برای آموزش مدل‌های آینده می‌بلعند. این فرآیند نوعی «جاودانگی آماری» ایجاد می‌کند که در آن خروجی‌های انسانی…

۱ دقیقه خواندن۱
آموزش کاربردی

ادغام NeMo Switchyard و Kong هزینه استنتاج عامل‌های AI را کاهش داد

انویدیا و کونگ با انتقال تصمیمات مسیریابی مدل‌ها از کد اپلیکیشن به لبهٔ زیرساخت، بحران هزینه‌ای توکن‌ها در سیستم‌های عامل‌محور را حل کردند. این معماری اجازه می‌دهد پرامپت‌ها…

۱۰ دقیقه خواندن۲

«به چالش کشیدن شفافیت»؛ شکست پروتکل‌های شناسایی متون Claude

توسعه‌دهندگان ابزارهایی را منتشر کرده‌اند که واترمارک‌های نامرئی متون تولیدشده توسط Claude را حذف می‌کند. این اقدام تلاش‌های شرکت Anthropic برای رعایت قوانین شفافیت اتحادیه اروپا…

۴ دقیقه خواندن
آموزش کاربردی

پروژه MicroGPT-C: پیاده‌سازی ترنسفورمر در یک فایل C بدون وابستگی خارجی

یک پروژه متن‌باز جدید، مدل ترنسفورمر را به‌صورت خالص در زبان C و بدون نیاز به کتابخانه‌های خارجی پیاده کرده است. این مدل با تنها ۴۱۹۲ پارامتر، توانایی تعمیم الگوها را به شکلی به…

۲ دقیقه خواندن۱