GPT-6 Astra می‌تواند وزن‌های یک شبکه عصبی را مثل کد منبع بخواند و دقیقاً آن‌ها را بازنویسی کند — بدون هیچ‌گونه گرادیان کاهشی (gradient descent). تنها ۰.۰۱۶٪ از پارامترهای Qwen3.5-0.8B را تغییر داد و دقت حل مسئله ریاضی MATH-500 را از ۷.۹٪ به ۴۸.۱٪ رساند.
به گزارش محققان، این سیستم «برنامه‌نویسی فضای وزن» (Weight-Space Programming) نامیده می‌شود و پارامترهای مدل را به‌عنوان دکمه‌های قابل‌تنظیم در می‌آورد، نه اهداف بهینه‌سازی. برخلاف تنظیم دقیق (fine-tuning) سنتی که میلیون‌ها پاس پیش‌رو-پس‌رو (forward-backward) می‌طلبد، Astra قصد زبان طبیعی را به ویرایش‌های عددی دقیق در ماتریس‌های وزن ترجمه می‌کند. این رویکرد رابطه‌ی معمول بین مدل‌های زبانی بزرگ (LLM) و شبکه‌های عصبی را برعکس می‌کند: به‌جای اینکه یک LLM تنها پرامپت (prompt) دهد، روی بسترِ خودِ مدل عمل می‌کند. این رویکرد که «برنامه‌نویسی فضای وزنی» نام دارد، پیش‌تر در مقاله‌ای دیگر مورد بررسی قرار گرفته بود.
در آزمایش‌های کنترل‌شده، Astra تنها با بازبینی وزن‌های خام، چهار سیاست بازی Atari و توزیع خروجی یک مولد تصویر کوچک را به‌درستی شناسایی کرد. وقتی خواسته شد یک تنظیم دقیق چاپلوس (sycophancy) را از یک تنظیم معمول تفکیک کند، تنها پس از دریافت الگوهای توجه (attention patterns) در کنار وزن‌های استاتیک موفق شد. به نقل از یورگن اشمیدهوبر (Jürgen Schmidhuber)، ریشه‌ی مفهومی این کار به دهه ۱۹۹۰ و کارهای او بر شبکه‌های تولیدکننده وزن برمی‌گردد؛ نوآوری امروز در لایه ترجمه مقیاس‌بزرگ بین قصد انسان و منیفولدهای پارامتریِ بالا است، لایه‌ای که سه دهه پیش وجود نداشت. یورگن اشمیدهوبر، که ریشه‌های مفهومی این کار را به دهه ۱۹۹۰ باز می‌برد، در مورد محدودیت‌های GPT-6-Astra در خلق نظریات فیزیک هم نوشته است.
شگفت‌انگیزترین نتیجه، نوشتنِ مجموعه وزن از صفر برای سه شبکه بازی‌کننده — Breakout، Pong و عامل Go ۹×۹ — تنها با استفاده از قوانین بازی و کد منبع بود. سیاست Breakout میانگین ۵۱۷ امتیاز کسب کرد در حالی که خط پایه پس از ۱۰۰ میلیون فریم تنها ۲۵ امتیاز داشت. در Go، شبکه ۱.۵ میلیون پارامتری مدل مقایسه‌ای که روی ۲۰ میلیون بازی آموزش دیده بود را پس از ۵۰ دور اصلاح تکراری شکست داد.
آزمایش کاربردی روی Qwen3.5-0.8B متمرکز بر پاتولوژی «حلقه تفکر» (thinking loop) مستند شده بود. با یک محیط کدنویسی و ۵۰ تکرار آزمون، Astra تنها ۰.۰۱۶٪ پارامترها را تغییر داد. صحت MATH-500 از ۷.۹٪ به ۴۸.۱٪ جهش یافت؛ تبعیت از دستور (instruction-following) از ۲۱٪ به ۶۲٪ ارتقا یافت. پاسخ‌هایی که به سقف توکن می‌رسیدند از ۹۳٪ به ۳۳٪ کاهش یافتند. روی Gemma 3 270M — که حلقه تفکر نداشت — Astra هیچ بهبود قابل‌قیاسی نداد، که نشان می‌دهد قابلیت نهفته را باز کرده، نه دانش جدید تزریق کرده.
این نتایج یک فرضه‌ی محوری را به چالش می‌کشند: اینکه رفتار مدل از مسیر آموزشی که آن را تولید کرده جدا ناپذیر است. اگر یک مدل زبانی بتواند فضای وزن را به‌صورت معنایی ناوبری کند، مرز بین «آموزش» و «ویرایش» محو می‌شود. ممیزی‌کنندگان امنیتی می‌توانند وزن‌ها را برای درِ پشتی (backdoor) بازبینی کنند بدون اجرای مدل؛ توسعه‌دهندگان می‌توانند حالت‌های توهم (hallucination) یا رفتار انکاری را در دقیقه‌ها به‌جای روزهای GPU اصلاح کنند.
تیم برنامه‌ریزی برای یک محک سیستماتیک دارد تا برنامه‌نویسی فضای وزن را در معماری‌ها و وظایف مختلف کمی‌سازی کند. مهندسان می‌توانند چک‌پوینت (checkpoint) ویرایش‌شده Qwen را از Hugging Face و گزارش‌های کامل آزمایش را از GitHub دریافت کنند تا روی حالت‌های شکست خود تست بزنند.
گام بعدی شما
- چک‌پوینت Qwen ویرایش‌شده را از Hugging Face بگیرید و روی داده‌های ارزیابی خودتان تست کنید تا ببینید آیا «حلقه تفکر» یا سایر پاتولوژی‌های خاص مدل‌تان حل می‌شود.
- گزارش‌های آزمایش روی GitHub را بررسی کنید تا درک کنید چگونه الگوهای توجه (attention traces) به تفکیک رفتار چاپلوسی کمک کرد — این کلید برای دیباگ رفتارهای ناخواسته است.
- برای کارهای امنیتی: وزن‌های مدل‌های باز را با ابزارهای بررسی وزن (نه اجرا) اسکن کنید تا درِ پشتی‌های احتمالی را قبل از استقرار شناسایی کنید.
گفتگو