پایان دوران انتشار آزاد؛ وقتی دولت آمریکا کلید مدل‌های بنیادی را می‌گیرد

تصور کنید دنیایی را که در آن هیچ مدل پیشرفته‌ای بدون «مهر امنیتی» دولت منتشر نشود. این دیگر یک سناریوی تخیلی نیست، بلکه استراتژی جدید واشینگتن برای بقا در رقابت با چین است.

در ۵ مه ۲۰۲۶، مرکز استانداردها و نوآوری هوش مصنوعی (Center for AI Standards and Innovation - CAISI)، زیرمجموعه‌ی وزارت بازرگانی آمریکا، توافق‌نامه‌های تست امنیتی خود را گسترش داد تا شامل گوگل دیپ‌مایند (Google DeepMind)، مایکروسافت (Microsoft) و xAI شود. هدف این است که ریسک‌های امنیت ملی پیش از آنکه این مدل‌های بنیادی (Foundation Models) به دست عموم برسند، شناسایی شوند.

به نقل از the-decoder.com، این سازمان تاکنون بیش از ۴۰ ارزیابی را اجرا کرده است که برخی از آن‌ها روی مدل‌های منتشرنشده انجام شده است. برای تسهیل این روند، آزمایشگاه‌های هوش مصنوعی نسخه‌هایی با حفاظ‌های امنیتی (Safety Guardrails) کاهش‌یافته را ارائه می‌دهند تا دانشمندان دولتی بتوانند بدون دخالت فیلترهای شرکتی، نقاط ضعف مدل‌ها را به چالش بکشند.

این توافقات جدید که بر پایه‌ی همکاری‌های پیشین با Anthropic و OpenAI شکل گرفته، امکان تست در محیط‌های طبقه‌بندی‌شده را فراهم می‌کند. کریس فال، مدیر CAISI، تأکید می‌کند که علم اندازه‌گیری مستقل و دقیق برای درک پیامدهای امنیتی هوش مصنوعی زاینده (Generative AI) حیاتی است.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ریسک‌های مدل‌های وزن‌های باز (Open Weights) اشاره کردیم، سرعت تکامل مدل‌ها در شناسایی و بهره‌برداری از آسیب‌پذیری‌های امنیتی، نظارت پیش از انتشار را از یک «انتخاب» به یک «ضرورت استراتژیک» تبدیل کرده است.

طبق گزارش New York Times، کاخ سفید اکنون در حال بررسی یک تغییر بنیادین در سیاست‌های خود است. پس از یک سال کاهش مقررات، دولت در حال تدوین یک فرمان اجرایی است که مدل‌های جدید را ملزم به طی کردن یک فرآیند بررسی رسمی دولتی می‌کند. گفته می‌شود توسعه‌ی مدل «Mythos» توسط Anthropic، جرقه‌ی این چرخش راهبردی را زده است.

اما این کنترل شدید، آیا نوآوری را می‌کشد یا آن را نجات می‌دهد؟ پاسخ در تحلیل ما درباره‌ی آینده‌ی مدل‌های استدلالی نهفته است.

گام بعدی شما

• رصد کنید که آیا فرمان اجرایی جدید کاخ سفید، استانداردهای تست امنیتی را برای مدل‌های متن‌باز نیز الزام می‌کند یا خیر.
• بررسی کنید که چگونه کاهش «حفاظ‌های امنیتی» در محیط‌های تست، می‌تواند منجر به کشف آسیب‌پذیری‌های جدید در مدل‌های تجاری شود.
• تحلیل‌های مربوط به مدل Mythos را دنبال کنید تا بفهمید چه قابلیت‌هایی باعث نگرانی دولت آمریکا شده است.