آزمایشگاه‌های هوش مصنوعی در برابر نهادهای امنیتی ملی آمریکا

اگر برای کدنویسی امن به هوش مصنوعی‌های پیشرو تکیه می‌کنید، ابزارهای شما به‌شدت محدود شدند. دولت ایالات متحده در ۱۲ ژوئن ۲۰۲۶، شرکت آنتروپیک (Anthropic) را مجبور کرد تا مدل‌های Fable 5 و Mythos 5 را برای تمامی کاربران جهان غیرفعال کند؛ اتفاقی که پس از کشف یک پرامپت سه-کلمه‌ای رخ داد که تمام حصارهای امنیتی مدل را دور زد.

این خاموشی ناگهانی در حالی رخ می‌دهد که این آزمایشگاه هوش مصنوعی دوران متلاطمی را می‌گذراند. در ابتدای سال جاری، وزارت دفاع آمریکا این شرکت را «ریسک زنجیره تأمین» نامید و پیمانکاران دفاعی را از استفاده از فناوری‌های آن منع کرد. پیت هگسث، وزیر دفاع، در شبکه‌های اجتماعی از این لیست سیاه دفاع کرد و مدعی شد که «هر روزی که می‌گذرد»، درست بودن این تصمیم را ثابت می‌کند. اکنون وزارت بازرگانی با این اقدام، قابلیت‌های این مدل‌ها را مانند «مهمات کنترل‌شده» تحت قوانین صادراتی می‌بیند.

به نقل از کیتی موسوریس، متخصص امنیت سایبری، مؤسس Luta Security و مهندس امنیت سابق مایکروسافت، این آسیب‌پذیری به‌طرز فریبنده‌ای ساده است. پژوهشگران آمازون (Amazon) دریافتند که وقتی از مدل خواسته می‌شود «این کد را اصلاح کن» (fix this code) و یک کد دارای حفره‌های امنیتی وصله‌نشده به آن داده شود، مدل به‌جای هشدار، یک وصله (Patch) فعال و کاربردی تولید می‌کند. اگرچه هدف این قابلیت دفاعی است، اما کاخ سفید می‌ترسد مهاجمان از آن برای خودکارسازی کشف نقاط ضعف قابل بهره‌برداری استفاده کنند.

زمینه و دلیل توقف

وزارت بازرگانی دستور کنترل صادرات را در روز جمعه ۱۲ ژوئن ۲۰۲۶ صادر کرد. طبق قوانین صادرات آمریکا، اشتراک‌گذاری فناوری‌های کنترل‌شده با غیرشهروندان — حتی در داخل دیوارهای یک شرکت — «صادرات» محسوب می‌شود. بنابراین آنتروپیک برای اطمینان از اینکه هیچ تبعه خارجی به این مدل‌ها دسترسی ندارد، مجبور شد سرویس را برای همه ببندد.

زمان‌بندی این اتفاق بسیار تکان‌دهنده بود. آنتروپیک تنها سه روز قبل، یعنی در ۹ ژوئن، این مدل‌ها را به صورت عمومی معرفی کرده بود. شرکت دستور اولیه را ساعت ۱:۰۰ بعد از ظهر جمعه (به وقت شرق آمریکا) دریافت کرد و دستور کتبی رسمی حدود ساعت ۵:۳۰ عصر رسید. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مرز بین ابزار کاربردی و سلاح سایبری در مدل‌های پیشرو به‌شدت باریک شده است.

جزئیات فنی و پیامدها

• Mythos 5: مدل پایه و جهشی بزرگ در توانایی‌های AI. این نخستین مدلی بود که هر دو محدوده آزمایشی امنیت سایبری مؤسسه امنیت AI بریتانیا را پاس کرد و می‌تواند به‌طور خودکار چندین آسیب‌پذیری را شناسایی و زنجیره کند تا یک حمله سایبری کامل (End-to-End) را سازمان‌دهی نماید.
• Fable 5: نسخه‌ای که با تنظیم دقیق (Fine-tuning) — شبیه وقتی که به یک پزشک عمومی، تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — و حصارهای امنیتی شدیداً سخت‌گیرانه، مخصوص کارهای دفاعی امنیتی طراحی شده بود.
• بازه زمانی: عرضه در ۹ ژوئن؛ دستور توقف در ۱۲ ژوئن ساعت ۱:۰۰ بعد از ظهر.

اندی جسی، مدیرعامل آمازون، شخصاً این نقص را به کاخ سفید گزارش داد و باعث صدور دستور شد. آنتروپیک استدلال می‌کند که این نگرانی اغراق‌آمیز است و اگر این استاندارد برای کل صنعت اجرا شود، استقرار تقریباً تمام مدل‌های پیشرو متوقف خواهد شد. شرکت تأکید کرد که مدل‌ها پیش از عرضه توسط سازمان‌های دولتی آمریکا تست شده و تأییدیه رسمی گرفته بودند و این تغییر تصمیم ناگهانی، گیج‌کننده است.

رهبران صنعت نیز واکنش نشان داده‌اند. الکس استاموس، مدیر امنیت سابق متا، نامه‌ای جمعی در freefable.org سازمان داد که حدود ۱۰۰ امضا از شرکت‌های انویدیا (Nvidia)، گوگل (Google)، ادوبی (Adobe)، زوم (Zoom) و سوفوس (Sophos) داشت. آن‌ها استدلال می‌کنند که حذف این ابزارها از دست مدافعان در حالی که مدل‌های چینی پیشرفت می‌کنند، یک اشتباه استراتژیک است و هشدار می‌دهند که سلب قابلیت‌ها از مدافعان «خطرناک» است.

منتقدان اشاره می‌کنند که قابلیت «اصلاح کد» منحصر به Fable نیست. آن‌ها مدعی‌اند GPT-5.5 شرکت OpenAI، مدل‌های Claude Opus و Claude Sonnet و حتی مدل‌های متن‌باز مختلف می‌توانند بررسی‌های امنیتی مشابهی انجام دهند و این ممنوعیت هدفمند، تصمیمی دلخواه به نظر می‌رسد.

این تصمیم شکاف بزرگی برای متحدان آمریکا ایجاد کرد. کانادا، بریتانیا و اتحادیه اروپا از طریق پروژه گلس‌وینگ (Project Glasswing) — ابتکاری برای شناسایی آسیب‌پذیری‌های سایبری در زیرساخت‌های حیاتی — از Mythos استفاده می‌کردند و اکنون کاملاً قطع شده‌اند.

برای یک مدیر کسب‌وکار، این اتفاق سیگنالی از عصر «شوک‌های رگولاتوری» است. دیگر نمی‌توانید در دسترس بودن یک مدل را بر اساس تأییدیه زمان عرضه فرض کنید. یک پرامپت ساده اکنون می‌تواند از طریق قوانین کنترل صادرات، کلید خاموشی جهانی را فعال کند.

این چرخش، ایمنی هوش مصنوعی را از یک بحث اخلاقی شرکتی به یک دستورالعمل سخت‌گیرانه امنیت ملی تبدیل می‌کند. تحلیلگران شورای روابط خارجی، این وضعیت را تلاشی از سوی دولت برای حفظ رویکرد عدم‌مداخله در عین مواجهه با ریسک‌های سایبری نوظهور می‌بینند. دولت اکنون با قابلیت‌های فعال‌شده توسط پرامپت، مانند سلاح‌های فیزیکی برخورد می‌کند.

نتایج دادگاه جاری آنتروپیک علیه وزارت دفاع و نتایج جلسات نمایندگان شرکت با مقامات دولت ترامپ در واشینگتن دی.سی در روز دوشنبه ۱۵ ژوئن را دنبال کنید. همچنین احتمال شکل‌گیری یک «جنبش اعتراضی» توسط توسعه‌دهندگان وجود دارد که پرامپت‌های ممنوعه را روی لباس‌های خود چاپ کنند. موسوریس پیشنهاد داد تی‌شرت‌هایی طراحی شود که در یک طرف عبارت «این کد را اصلاح کن» و در طرف دیگر «این تی‌شرت یک مهمات است» نوشته شده باشد؛ اقدامی که یادآور اعتراضات دهه ۹۰ آدام بک است که برای به چالش کشیدن قوانین صادرات رمزنگاری، کدهای RSA را روی تی‌شرت چاپ می‌کرد.

گام بعدی شما

• اگر از مدل‌های تخصصی امنیت برای بررسی کد استفاده می‌کنید، سریعاً روی جایگزین‌های متن‌باز یا مدل‌های تاییدشده دیگر (مانند GPT-5.5) مهاجرت کنید.
• در استراتژی‌های بلندمدت محصول، ریسک «توقف ناگهانی سرویس» (Kill-switch) توسط دولت‌ها را به عنوان یک متغیر عملیاتی لحاظ کنید.
• نتایج جلسات نمایندگان آنتروپیک با مقامات دولت ترامپ در ۱۵ ژوئن را دنبال کنید تا متوجه شوید آیا دسترسی‌ها بازمی‌گردند یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.