چطور DwarfStar 4 مدلهای سنگین را به سختافزار خانگی آورد؟
موتور استنتاج DwarfStar 4 با استفاده از کوانتش نامتقارن ۲ بیتی و استریمینگ حافظه از SSD، اجرای مدلهای عظیم MoE مانند DeepSeek V4 را روی ورکاستیشنهای خانگی ممکن کرده است.
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
موتور استنتاج DwarfStar 4 با استفاده از کوانتش نامتقارن ۲ بیتی و استریمینگ حافظه از SSD، اجرای مدلهای عظیم MoE مانند DeepSeek V4 را روی ورکاستیشنهای خانگی ممکن کرده است.
مهندسی استنتاج از تخصیص حافظه ایستا به سمت سیستمهای حافظه مجازی حرکت میکند تا از هدررفت VRAM جلوگیری کند. پیادهسازی PagedAttention و دستهبندی پیوسته، تکهتکه شدن حافظه را حذف…
یک تیم محصول دریافت که عاملهای هوش مصنوعی توصیفات ابزارها را بهجای مستندات، بهعنوان دستورات اجرایی میبینند. آنها برای مقابله با این «مسمومسازی ابزار»، سیستمی مبتنی بر…
شرکت Trail of Bits دو ساختار متنباز به نامهای SequenceHash و SequenceMAC را برای جلوگیری از حملات رمزگذاری مبهم در هش کردن چندین مقدار معرفی کرد. این ابزارها با سازگاری با اکثر…
ارزیابیهای دقیق مدل Jev نشان میدهد این سیستم در تخمین توزیعهای احتمالی دچار خطای شدید است و بهجای دقت، اعتمادبهنفس کاذب (Overconfidence) نمایش میدهد. این مدل با وجود شناخت…
محک جدید رد هت نشان میدهد که مدلهای کوچک و تخصصی طبقهبندی، همچنان بهینهترین گزینه برای ایجاد حفاظهای ایمنی در محیطهای سازمانی هستند. در حالی که مدلهای تصمیمگیر…
شرکت خدمات مالی چاتم فایننشال با استفاده از مدلهای GPT-5.6 و Codex، فرآیند تأیید معاملات را ۸۵٪ سریعتر کرد. این تغییر، تمرکز متخصصان را از جمعآوری دادههای خام به تحلیلهای سطح…
انویدیا نسخه ۶۴ گیگابایتی سیستم دسکتاپ DGX Spark را برای اجرای محلی مدلهای ۳۰ میلیارد پارامتری و عاملهای همیشهفعال معرفی کرد. این سختافزار هزینههای متغیر API را حذف کرده و…
تحلیل ترافیک JSON-RPC در سرور MCP شرکت Apify نشان میدهد که اکثر عاملهای هوش مصنوعی در مواجهه با ابزارهایی که بیش از چند ثانیه زمان میبرند، دچار شکست میشوند. این یافتهها سه…
سیستمهای نسخهبندی استاندارد قادر به ردیابی تغییرات رفتاری در عاملهای هوش مصنوعی نیستند. توسعهدهندگان برای جلوگیری از شکستهای خاموش در محیط عملیاتی، به جای تکیه بر API،…
تیم Browser Use با انتشار نسخه v0.1.0 پروژه jev-ultrafast، جایگزینی برای روشهای بصری در عاملهای مرورگر ارائه کرد. این سیستم با تبدیل صفحه به لیستهای شمارهدار، تأخیر و توهم مدل…
زیرساختهای هوش مصنوعی برای حل مشکل تأخیر در سیستمهای رباتیک و بلادرنگ، از مراکز دادهٔ دوردست به «لایههای شهری» منتقل میشوند. برآورد شرکت Teravolt نشان میدهد این تغییر مسیر…