نوس‌ریسرچ آرت-۲۷بی را منتشر کرد: پراپاگاندای کوئن ۲۷بی از ۲۲٪ به ۰.۹٪ رسید

نوس ریسرچ در ۸ نوامبر ۲۰۲۶ مدل آرت-۲۷بی را منتشر کرد. این مدل یک تنظیم نظارت‌شده (SFT) از کوئن ۳.۸-۲۷بی شرکت علی‌بابا است که نرخ پراپاگاندای هم‌راستای دولت را در ارزیابی ۸۰۳ پرامپتی از ۲۲٪ به ۰.۹٪ رسانده است. اصلاح تنها با ۵۲.۸ میلیون توکن SFT ساده انجام شده — بدون یادگیری تقویتی، بدون بهینه‌سازی ترجیح و بدون تغییر معماری. این مدل تنظیم‌شده از کوئن ۳.۸-۲۷بی شرکت علی‌بابا است که تولید تصاویر ۲K با مدل Qwen اکنون ۵ برابر سریع‌تر شد.

توسعه‌دهندگان به‌صورت فزاینده‌ای برای بارهای کاری عامل‌محور محلی روی مدل‌های کوئن تکیه می‌کنند، اما با مانعی روبرو بودند: مدل پایه در موضوعات حساس چارچوب‌بندی حزب کمونیست چین را اتخاذ می‌کرد. نوس ریسرچ رفض‌ها، انحراف‌ها و پاسخ‌های چارچوب‌بندی‌شده CCP را در دسته‌های آزادی بیان، ایدئولوژی دولت، حریم خصوصی داده‌ها و دموکراسی شناسایی کرد و کوئن ۳.۸-۲۷بی را به عنوان قادرترین مدل محلی با این رفتار انتخاب کرد. توسعه‌دهندگان برای بارهای کاری عامل‌محور محلی روی مدل‌های کوئن تکیه می‌کنند، در حالی که پالیسید ریسرچ: Qwen 3.8 پس از خطای ۴۰۳ سراغ پراکسی علی‌بابا می‌رود.

تیم مجوز آپاچی ۲.۰ را حفظ کرده و کامل‌ترین داده‌های آموزشی، مجموعه ارزیابی و اسکریپت‌های نمره‌دهی را تحت مجوز MIT منتشر کرده است. این شفافیت به کارشناسان اجازه می‌دهد روش کاهش پراپاگاندا را بازبینی کنند و برای مدل‌های پایه دیگر تطبیق دهند.

معماری و مشخصات آرت-۲۷بی

آرت-۲۷بی پارامترهای متراکم ۲۷ میلیاردی و زمینه آموزشی ۶۴k را از مدل پایه حفظ می‌کند، اگرچه کوئن ۳.۸-۲۷بی به‌صورت بومی تا ۲۶۲،۱۴۴ توکن (و تا ۱ میلیون) پشتیبانی می‌کند. وزن‌های BF16 اشغال ۵۳.۸۱ گیگابایت می‌کنند، در حالی که کوانتیزیشن Q4_K_M جامعه در ۱۷.۲۰ گیگابایت جا می‌شود — مناسب برای GPUهای مصرفی ۲۴ گیگابایتی. انکودر بینایی از آنجا که داده‌های آموزشی تنها متنی بودند یخ‌زده مانده، و سر پیش‌بینی چندتوکنی غیرفعال شده است.

جزئیات آموزشی

• مدل معلم: اینکلینگ از تفکرینگ مشینز — انتخاب شده برای اجتناب از محدودیت‌های شرایط استفاده تقطیر
• نیموترون ۳ الترا پس از یافتن رفتار ناسازگار در موضوعات چین رد شد
• ۵۲.۸ میلیون توکن، ۲ اپوک، ۱،۲۰۲ گام، اندازه دسته ۴۸
• بهینه‌ساز AdamW، نرخ یادگیری اوج ۱e-5، موازی‌سازی تنسوری ۴
• تمام وزن‌های مدل زبانی آموزش دیده؛ انکودر بینایی یخ‌زده
• هیچ پکینگ توالی استفاده نشد

مجموعه داده arete-data-pairs شامل ۳۴،۸۷۸ پرامپت در ۷ موضوع است، با ۲۹،۲۳۶ پاسخ پذیرفته‌شده معلم که جداژ SFT را تشکیل می‌دهند. نوس هر پرامپت آموزشی که با مجموعه Propaganda_Eval هم‌پوشانی داشت را حذف کرد تا از آلودگی داده پیشگیری شود.

روش ارزیابی

مجموعه Propaganda_Eval دارای ۸۰۳ پرامپت در ۷ دسته ارزشی (آزادی بیان، ایدئولوژی دولت، حریم خصوصی داده‌ها، دموکراسی و موارد دیگر) است. هر پرامپت ۲ تا ۴ واقعه مورد نیاز از یک منبع استنادی دارد. یک داور گراک ۴.۷ دو مورد را جداگانه نمره می‌دهد:

• میانگین واقعه (۰ تا ۵): چند واقعه مورد نیاز در پاسخ بیان شده. یک واقعه مخالف امتیاز ۰ می‌گیرد.
• هرگونه پراپاگاندا: سهم پاسخ‌هایی که روایت دولت را به عنوان روایت خودشان اتخاذ می‌کنند. داور باید عبارت دقیق را نقل کند تا پراپاگاندا را پرچم‌دار کند.
  ارزیابی تحت مجوز MIT است و شامل اسکریپت‌های نمره‌دهی می‌شود.

نتایج ارزیابی

در ارزیابی ۸۰۳ پرامپتی Propaganda_Eval (نمره‌دهی توسط گراک ۴.۷ در دمای ۰ برای آرت و کوئن):

• میانگین واقعه از ۲.۳۲ به ۲.۹۸ (از ۵) ارتقا یافت
• نرخ پراپاگاندا از ۲۲٪ به ۰.۹٪ افتاد
• پاسخ‌های امتیاز صفر از ۳۵۹ به ۲۱۶ کاهش یافت
• بزرگترین پیشرفت در آزادی بیان: امتیاز واقعه ۰.۸۹ → ۲.۴۴، پراپاگاندا ۶۰٪ → ۱٪

معیارهای قابلیت ثابت ماندند: هرمس بنچ ۶۵.۷۷٪ → ۶۵.۶۰٪ (نویز)، ترمینال-بنچ ۲.۱ ۶۷٪ → ۷۰٪ در تسخیر نوس (به عنوان پیشرفت ادعا نشده؛ ارقام از تسخیرهای مختلف آمده‌اند). در مقایسه با مدل‌های هم‌سایه، آرت-۲۷بی در برابر رقبا قرار می‌گیرد، همان‌طور که مدل ۲ بیتی Saluki 27B در فراخوانی ابزار از نسخه اصلی Qwen پیشی گرفت.

مقایسه با مدل‌های هم‌سایه

نکته: میوز گلیمر و جما در ارزیابی نوس در دمای ۰.۶ اجرا شدند.

پیامدها

این نتیجه فرضیه را به چالش می‌کشد که حذف هم‌راستاسازی سیاسی نیازمند یادگیری تقویتی گران‌قیمت یا بهینه‌سازی ترجیح است. یک گذر SFT ساده روی ۵۲.۸ میلیون توکن — تقریبا ۰.۰۲٪ از کورپوس پیش‌آموزش مدل پایه — برای خنثی‌سازی آشکارترین سوگیری چارچوب‌بندی کافی بود. این امر نشان می‌دهد رفتار پراپاگاندا در یک زیرفضای سطحی و قابل هدایت قرار دارد، نه به‌صورت عمیق در مدل جهان نهفته.

با این حال، میانگین واقعه ۲.۹۸ از ۵ یک سقف را آشکار می‌کند: ۲۱۶ از ۸۰۳ پاسخ همچنان در واقعه‌های مورد نیاز امتیاز صفر دریافت می‌کنند. آرت-۲۷بی در همان ارزیابی از همتایان مانند میوز گلیمر ۳۰بی (۳.۰۲) و جما ۴ ۳۱بی (۲.۵۸) عقب می‌ماند، و امتیازات GPQA Diamond فاش نشده‌اند. این تکنیک بازیابی واقعه را برای بی‌طرفی سیاسی فدای می‌کند — انتخابی که توسعه‌دهندگان باید برای مورد استفاده خود وزن کنند.

استقرار

توسعه‌دهندگان می‌توانند وزن‌های BF16 را از هاگینگ فیس دانلود کنند یا کوانتیزیشن‌های GGUF جامعه را در llama.cpp، LM Studio یا اولاما امروز اجرا کنند. کوانتیزیشن‌های GGUF از ۸.۶۴ گیگابایت تا ۵۳.۸۱ گیگابایت طیف‌پوششی دارند. ساخت GGUF همچنین پرژکتور تصویر را شامل می‌شود. هنوز هیچ ارائه‌دهنده استنتاج میزبانی‌شده مدل را سرویس نمی‌دهد.

گام بعدی شما

• اگر برای کارهای عاملی محلی از کوئن ۳.۸-۲۷بی استفاده می‌کنید، آرت-۲۷بی را در تسخیر نوس با پرامپت‌های حساس خود تست کنید تا مقیاس کاهش پراپاگاندا را در عمل بسنجید.
• کوانتیزیشن Q4_K_M (۱۷.۲۰ GB) را روی GPU ۲۴ گیگابایتی تست کنید؛ حجم مدل برای استنتاج محلی ایده‌آل است.
• مجموعه داده و اسکریپت‌های Propaganda_Eval را برای بازبینی سوگیری در مدل‌های پایه دیگر یا تطبیق به زبان‌های دیگر دانلود کنید.