درون قمار سفیدکاخانه برای مسدود کردن مدل Claude Fable 5

اگر برای امنیت سایبری خود به پیشرفته‌ترین ابزارهای هوش مصنوعی تکیه می‌کنید، دسترسی شما به جدیدترین پرچم‌دار Anthropic با یک دیوار دولتی برخورد کرد. طبق گزارش Wired، دولت ترامپ در روز دوشنبه، ۱۶ ژوئن ۲۰۲۶، از لغو کنترل‌های صادراتی روی Claude Fable 5 خودداری کرد؛ چراکه مذاکرات برای رفع نگرانی‌های مربوط به «جیل‌بریک» یا دور زدن محدودیت‌ها به نتیجه نرسید.

این بن‌بست در حالی رخ می‌دهد که صنعت هوش مصنوعی با نظارت‌های شدیدتری بر قابلیت‌های «دو منظوره» مواجه است؛ ابزارهایی که همان‌طور که به مدافعان شبکه کمک می‌کنند، می‌توانند توسط مهاجمان به سلاح تبدیل شوند. این تنش با اختلافات جاری میان Anthropic و پنتاگون بر سر استفاده از مدل‌ها در کاربردهای نظامی تشدید شده است. تصور کنید یک موتور فوق‌سریع داشته باشید که دولت می‌ترساند هر لحظه به یک موشک تبدیل شود؛ وضعیت فعلی Fable 5 دقیقاً همین است.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های زبانی اشاره کردیم، توازن میان دسترسی آزاد و کنترل‌های امنیتی همواره نقطه حساس این صنعت است.

زمینه بحران

به گزارش Wired، بحران از هفته گذشته آغاز شد؛ زمانی که اندی جسی، مدیرعامل آمازون، مستقیماً با اسکات بسنت، وزیر خزانه‌داری تماس گرفت تا درباره آسیب‌پذیری‌های این مدل هشدار دهد. آمازون یکی از بزرگ‌ترین سرمایه‌گذاران Anthropic است. سخنگوی آمازون به Wired اعلام کرد که به‌عنوان ارائه‌دهنده خدمات ابری برای بخش‌های دولتی و خصوصی، این امر که دولت‌ها برای کسب مشاوره درباره ریسک‌های امنیتی به آن‌ها مراجعه کنند، امری غیرمعمول نیست.

این هشدار باعث شد تا سازمان امنیت ملی آمریکا (NSA) بررسی‌های خود را آغاز کند. نتیجه این بررسی تایید کرد که در واقع امکان حذف گاردریل‌های مدل وجود دارد. این اتفاق به کاربران اجازه می‌دهد تا به قابلیت‌های قدرتمند امنیت سایبری مدل زیربنایی یعنی Mythos دسترسی پیدا کنند. در پی این اتفاق، هوارد لوتنیک، وزیر بازرگانی، روز جمعه با داریو آمودی، مدیرعامل Anthropic صحبت کرد، در حالی که وزارتخانه در حال تنظیم نامه کنترل صادرات بود. در نهایت، Anthropic طی تعطیلات آخر هفته دسترسی به این مدل را برای تمام کاربران قطع کرد.

جزئیات مذاکرات

در مذاکرات روز دوشنبه، بازیگران کلیدی حضور داشتند:

• وزارت بازرگانی: هوارد لوتنیک (که از طریق تماس تصویری از اجلاس G7 در اویان فرانسه شرکت می‌کرد) و پژوهشگران دولتی از «مرکز استانداردهای هوش مصنوعی و نوآوری» و «دفتر ملی مدیر سایبری». لازم به ذکر است که شان کایرن‌کراس در این جلسات شرکت نکرد.
• Anthropic: تام براون (بنیان‌گذار و مدیر ارشد محاسبات)، سارا هک (رئیس امور خارجی)، نیکولاس کارلینی (پژوهشگر امنیت) و لوگان گراهام (رئیس تیم قرمز) که دو نفر آخر شخصاً برای شرکت در این مذاکرات به واشینگتن دی.سی سفر کردند.

شرکت Anthropic مدعی است ترس‌های دولت بیش از حد است. این شرکت در یک پست وبلاگی در روز جمعه و متعاقباً در یک نامه باز از سوی پژوهشگران امنیت سایبری استدلال کرد که کنترل‌های صادراتی توجیه‌ناپذیرند. آن‌ها ادعا می‌کنند مدل‌های کلاس Mythos در مقایسه با سایر مدل‌های متن‌باز، توانایی منحصر‌به‌فردی در یافتن حفره‌های امنیتی ندارند و حذف آن‌ها فقط به پیشتازی آمریکا در AI ضربه می‌زند.

در این نامه باز آمده است: «مدل‌های کلاس Mythos شرکت Anthropic در یافتن نقص‌ها و فعال‌سازی اکسپلویت‌ها بسیار خوب عمل می‌کنند. با این حال، آن‌ها در این وظایف منحصر‌به‌فرد نیستند... این اقدام ابزارهای بهتری را از مدافعان گرفت، عدم قطعیت در بازار ایجاد کرد و پیشتازی هوش مصنوعی آمریکا را بدون هیچ ریسک واقعی برای توجیه آن، به خطر انداخت».

این درگیری نشان‌دهنده تغییری در نحوه مدیریت هوش مصنوعی پیشرو توسط دولت آمریکا است. دولت اکنون با استفاده از کنترل‌های صادراتی به‌عنوان یک اهرم اصلی، با «وزن‌های مدل» (Open Weights) — یعنی همان دستور پخت مدل که تعیین می‌کند هر داده چطور پردازش شود — مانند مهمات حساس برخورد می‌کند، نه مانند یک نرم‌افزار. این وضعیت برای آزمایشگاه‌هایی که به مشارکت‌های ابری عظیم وابسته هستند، محیطی متزلزل می‌سازد؛ به‌ویژه وقتی آمازون علیه سرمایه‌گذاری خودش زنگ خطر را به صدا درآورد.

برای کاربران تجاری، این یعنی توانمندترین نسخه Claude همچنان آفلاین است. وزارت بازرگانی اعلام کرده بازگشت Fable 5 به بازار برای استفاده مصرف‌کنندگان، مشروط به این است که شرکت تمام آسیب‌پذیری‌های جیل‌بریک را به‌طور کامل برطرف کند. سخنگوی Anthropic به Wired گفت هر دو طرف برای حل سریع این موضوع در تلاش هستند.

باید منتظر ماند و دید آیا آزمایشگاه‌های دیگر مانند OpenAI یا گوگل نیز با بازرسی‌های «اضطراری» مشابه مواجه می‌شوند، یا اینکه دولت یک استاندارد دائمی برای تیم‌های قرمز (Red-teaming) ایجاد می‌کند تا جایگزین این ممنوعیت‌های صادراتی موردی شود.

گام بعدی شما

• اگر از مدل‌های Claude برای تحلیل کد استفاده می‌کنید، فعلاً روی نسخه‌های قدیمی‌تر متکی بمانید تا وضعیت Fable 5 شفاف شود.
• گزارش‌های NSA درباره دور زدن گاردریل‌ها را دنبال کنید تا متوجه شوید چه نوع دستوراتی باعث افشای قابلیت‌های پنهان مدل‌ها می‌شود.
• بررسی کنید آیا ابزارهای جایگزین متن‌باز در شناسایی آسیب‌پذیری‌ها به اندازه مدل‌های بسته پیشرفت کرده‌اند یا خیر.

اما آیا این سخت‌گیری‌ها فقط مختص Anthropic است یا OpenAI و گوگل هم به زودی با بازرسی‌های اضطراری مواجه می‌شوند؟ در تحلیل‌های بعدی، اثر این تصمیم بر اکوسیستم مدل‌های بازمتن را بررسی خواهیم کرد.