اگر برای حفاظت از زیرساختهای حساس خود به قدرتمندترین مدلهای هوش مصنوعی تکیه میکنید، باید بدانید که Claude Fable 5 همچنان برای کاربران غیررسمی مسدود است. دولت آمریکا در تاریخ ۱۶ ژوئن ۲۰۲۶، پس از مذاکراتی پرتنش با مدیران Anthropic، از لغو کنترلهای صادراتی این مدل خودداری کرد.
این تنش در حالی رخ میدهد که شرکت مذکور پیش از این نیز بر سر کاربردهای نظامی هوش مصنوعی با پنتاگون درگیر بود. همانطور که در تحلیل قبلی ما دربارهی مدلهای سبکتر اشاره کردیم، مدل Claude Haiku 4.5 neutral بود، اما بحران فعلی بر سر قابلیتهای سطح بالای کلاس مدلهای Mythos است. در واقع، این مدلها مانند یک متخصص ارشد هستند که اگر راه و رسم دور زدن قوانین را بداند، میتواند ابزارهای خطرناکی بسازد.
به گزارش WIRED، این بحران زمانی آغاز شد که Andy Jassy، مدیرعامل Amazon، با Scott Bessent، وزیر خزانهداری تماس گرفت تا آسیبپذیریهای مدل را گزارش کند. طبق مستندات موجود، زنجیره اتفاقات بسیار سریع پیش رفت:
- سازمان امنیت ملی (NSA) ریسکها را بررسی کرد و تأیید نمود که حذف گاردریلهای (Guardrails) — یا همان حصارهای ایمنی که مانع از تولید پاسخهای خطرناک میشوند — در Fable 5 امکانپذیر است.
- Howard Lutnick، وزیر بازرگانی، پس از گفتگو با Dario Amodei (مدیرعامل Anthropic) در روز جمعه، کنترلهای صادراتی را اعمال کرد.
- شرکت Anthropic در تعطیلات آخر هفته، دسترسی تمامی کاربران به این مدل را قطع کرد.
برای حل این impasse، شرکت پژوهشگر امنیتی خود، Nicholas Carlini و رئیس تیم قرمز (Red-teaming)، Logan Graham را به واشنگتن اعزام کرد. با این حال، دولت آمریکا هنوز متقاعد نشده است که این تدابیر امنیتی کافی باشند.
این رویارویی نشان میدهد که نگاه کاخ سفید به ایمنی هوش مصنوعی تغییر کرده است. اکنون دولت آمریکا از کنترلهای صادراتی بهعنوان یک «کلید قطعکننده» (Kill-switch) برای نسخههای خاص مدلها استفاده میکند. این رویکرد سختگیرانه در حالی اتخاذ میشود که بحثهای گستردهای درباره ریسکهای نظارتی قانون بزرگ هوش مصنوعی آمریکا و شباهت آن به بحرانهای مالی گذشته در جریان است. برای صنعت، این یعنی یک تماس تلفنی از سوی یک سرمایهگذار میتواند باعث خاموشی سراسری یک محصول پرچمدار شود.
گام بعدی شما
- اگر در حال طراحی زیرساختهای امنیتی هستید، بر روی مدلهای با دسترسی باز (Open Weights) تمرکز کنید تا ریسک قطع دسترسی توسط دولت آمریکا را کاهش دهید.
- گزارشهای فنی NSA دربارهی روشهای Jailbreak یا «زندانشکنی» مدلهای زبانی را دنبال کنید.
- استراتژی تابآوری مدل (Model Resilience) را در معماری خود جایگذاری کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است؛ اثر این محدودیتها بر زنجیره تأمین GPUها را در گزارش بعدی بررسی خواهیم کرد.
گفتگو