پیشبینی چندتوکنی سرعت تولید Qwen3.8 را در RTX 3090 تا ۵۶٪ افزایش داد
فعالسازی قابلیت پیشبینی چندتوکنی (MTP) در کارت گرافیک RTX 3090، توان عملیاتی مدل Qwen3.8-27B را از ۳۶ به ۵۶.۲ توکن بر ثانیه رساند. با این حال، آزمایشها نشان میدهد این افزایش…
موضوع
۴٬۵۳۱ مقاله منتشر شده
فعالسازی قابلیت پیشبینی چندتوکنی (MTP) در کارت گرافیک RTX 3090، توان عملیاتی مدل Qwen3.8-27B را از ۳۶ به ۵۶.۲ توکن بر ثانیه رساند. با این حال، آزمایشها نشان میدهد این افزایش…
انتقال عاملهای هوش مصنوعی از حالت «فقط خواندنی» به «دسترسی نوشتاری» نیازمند چارچوبی مهندسیشده بر اساس هزینهٔ بازگرداندن وضعیت (Undo) است. توسعهدهندگان با طبقهبندی افعال بر…
یک الگوی معماری جدید برای نظارت بر محتوای صوتی، فرآیند تبدیل گفتار به متن را از طبقهبندی جدا میکند تا قابلیت بازبینی و تکرارپذیری تضمین شود. با تبدیل متنها به سوابق…
یک چارچوب متنباز جدید با استفاده از عاملهای هوش مصنوعی، طراحی مدلهای لگو را از محاسبات هندسی پیچیده به تولید اسکریپتهای پایتون تغییر داد. این سیستم با تبدیل ساختار سهبعدی به…
شرکت Muse با انتشار کیتهای توسعه نرمافزاری (SDK) برای دستگاههای لینوکس و ESP32، امکان ساخت گجتهای هوش مصنوعی سفارشی را برای همه فراهم کرد. این اقدام، اکوسیستم Muse را از یک…
موتور استنتاج DwarfStar 4 با استفاده از کوانتش نامتقارن ۲ بیتی و استریمینگ حافظه از SSD، اجرای مدلهای عظیم MoE مانند DeepSeek V4 را روی ورکاستیشنهای خانگی ممکن کرده است.
رویکرد جدیدی در فهرستبندی محصولات تجارت الکترونیک، بازبینی انسانی را بر تولید آنی متن ترجیح میدهد تا شکاف اعتماد میان فروشنده و خریدار را پر کند. این سیستم با جایگزینی جعبهی…
مهندسی استنتاج از تخصیص حافظه ایستا به سمت سیستمهای حافظه مجازی حرکت میکند تا از هدررفت VRAM جلوگیری کند. پیادهسازی PagedAttention و دستهبندی پیوسته، تکهتکه شدن حافظه را حذف…
النا رِویچوا با استفاده از یک فایل Markdown به نام NOW.md، سیستمی بدون وضعیت (Stateless) ایجاد کرده که عاملهای مجزای هوش مصنوعی را هماهنگ میکند. این معماری اجازه داد سیستم او…
یک تیم محصول دریافت که عاملهای هوش مصنوعی توصیفات ابزارها را بهجای مستندات، بهعنوان دستورات اجرایی میبینند. آنها برای مقابله با این «مسمومسازی ابزار»، سیستمی مبتنی بر…
ارزیابیهای دقیق مدل Jev نشان میدهد این سیستم در تخمین توزیعهای احتمالی دچار خطای شدید است و بهجای دقت، اعتمادبهنفس کاذب (Overconfidence) نمایش میدهد. این مدل با وجود شناخت…
محک جدید رد هت نشان میدهد که مدلهای کوچک و تخصصی طبقهبندی، همچنان بهینهترین گزینه برای ایجاد حفاظهای ایمنی در محیطهای سازمانی هستند. در حالی که مدلهای تصمیمگیر…