اگر برای شناسایی نقاط ضعف امنیتی به هوش مصنوعی تکیه میکنید، ابزارهای شما اکنون به مسئلهای در سطح امنیت ملی تبدیل شدهاند. دولت آمریکا در اواخر هفته گذشته (۱۶ ژوئن ۲۰۲۶) دستورالعملی برای کنترل صادرات صادر کرد که هرگونه دسترسی اتباع خارجی به جدیدترین مدلهای آنتروپیک (Anthropic) را ممنوع میکند و این شرکت را مجبور کرد مدلهای Claude Fable 5 و Mythos 5 را از دسترس خارج کند.
ریشههای این تقابل
آنتروپیک از روز جمعه در حال مذاکره با کاخ سفید است، اما هنوز توافقی برای بازگرداندن این سرویسها به دست نیاورده است. این فشارها درست زمانی رخ میدهد که آزمایشگاههای هوش مصنوعی در رقابتی شدید برای ساخت مدلهای «دو-منظوره» هستند؛ ابزارهایی که هم میتوانند باگهای نرمافزاری را ترمیم کنند و هم اکسپلویتهای ویرانگری بسازند.
این قابلیتها برای متخصصان امنیت سایبری یک گنجینه است، اما در دستان هکرهای دولتی، به سلاحی خطرناک تبدیل میشوند. طبق اعلام آنتروپیک در پست وبلاگی هفته گذشته، این فناوری یک «تیغ دو لبه» است. آنها تصریح کردند: «بخش بزرگی از کاربردهای پیشرفته مدلهای هوش مصنوعی دو-منظوره هستند؛ همان پرسوجوهایی که در دستان متخصصان امنیت سایبری و پژوهشگران بیولوژی مفید هستند، اگر در دسترس عوامل مخرب قرار گیرند، میتوانند خطرناک باشند.»
کاخ سفید معتقد است که حفاظهای مدل Fable 5 را میتوان دور زد تا قدرت کامل و بدون محدودیت Mythos 5 آزاد شود و همین موضوع، آن را به یک ریسک امنیتی تبدیل کرده است.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای زبانی اشاره کردیم، مرز بین ابزار دفاعی و تهاجمی در مدلهای استدلالی بسیار باریک است.
جزئیات استقرار و توزیع
بر اساس مستندات منتشر شده توسط آنتروپیک در وبلاگ این شرکت در هفته گذشته، این شرکت سعی کرد ریسکها را با یک استراتژی انتشار لایهبندی شده مدیریت کند:
- Mythos Preview: در ماه آوریل برای گروه محدودی از یک کنسرسیوم، به عنوان بخشی از یک گروه کاری به نام پروژه گلسوینگ (Project Glasswing) عرضه شد.
- Mythos 5: هفته گذشته بهطور خصوصی با گروه گلسوینگ به اشتراک گذاشته شد. آنتروپیک از زمان عرضه اولیه در ماه آوریل هشدار داده بود که این مدل میتواند نقاط ضعف را برای کمک به مدافعان پیدا کند، اما همزمان میتواند راههای بهرهبرداری (Exploit) از آنها را نیز بیابد.
- Claude Fable 5: نسخهای از سطح Mythos که برای عموم منتشر شد، اما محدودیتهای سختگیرانهای (Hard Blocks) روی پرسوجوهای مربوط به بیولوژی و امنیت سایبری داشت.
با وجود این محدودیتها، دولت ترامپ هر دو مدل را مسدود کرد. لوگان گراهام (Logan Graham)، مدیر تیم قرمز در آنتروپیک، به گزارش خبرگزاری Wired تأکید کرد که تمرکز نباید روی یک شرکت باشد، بلکه باید به جهانی فکر کرد که در ۶ تا ۲۴ ماه آینده، این قابلیتها بهطور گسترده در دسترس همگان خواهد بود. او تأکید کرد که «موضوع اصلاً دربارهی این مدل خاص یا شرکت آنتروپیک نیست.»
دیگر غولهای این صنعت نیز مسیر مشابهی را میروند. OpenAI در اواسط آوریل یک مدل تخصصی امنیت سایبری را بهطور خصوصی عرضه کرد و از آن زمان استراتژی گستردهتری را در حوزه امنیت سایبری معرفی نمود. این نشان میدهد که یک روند کلی در جریان است که طی آن، قدرتمندترین قابلیتها برای دوری از فشارهای نظارتی، پشت درهای بسته نگه داشته میشوند.
متخصصان امنیت، این ممنوعیت دولتی را یک اقدام «کوتاهبینانه» مینامند. تارا ویلر (Tarah Wheeler)، مدیر امنیت در TPO Group، میگوید رقبای آنتروپیک احتمالاً همین حالا قابلیتهای مشابهی دارند و صرفاً منتظرند ببینند محیط نظارتی با آنتروپیک چه میکند تا مدلهای خود را عرضه کنند. او این تصور را که رقبای دیگر هنوز چنین قابلیتهایی را توسعه ندادهاند، «به شدت کوتاهبینانه» خواند.
علاوه بر این، ریسک فقط محدود به غولهای بسته نیست. بروس اشنایر (Bruce Schneier)، پژوهشگر هاروارد و دانشگاه تورنتو، اشاره میکند که مدلهای کوچکتر و ارزانترِ وزنهای باز (Open Weights) — یعنی مدلهایی که دستور پختشان علناً منتشر شده و هر کسی میتواند آنها را اجرا کند — وقتی با پرامپتهای پیچیده، چارچوبهای اصلاحشده (Refined Harnesses) و در کنار یکدیگر ترکیب شوند، میتوانند عملکرد Mythos 5 را تقلید کنند. او پیشبینی میکند مدلهای دیگر طی چند ماه به «خلاقیت و سرسختی» مدلهای Mythos و Fable برسند.
برای مدیران کسبوکار و معماران امنیت، این یعنی عصر «امنیت از طریق ابهام» به پایان رسیده است. شما نمیتوانید روی ممنوعیتهای دولتی برای دور نگه داشتن قابلیتهای خطرناک حساب کنید؛ فناوری سریعتر از سیاست حرکت میکند. گروه بزرگی از رهبران امنیت سایبری در نامهای باز در روز یکشنبه، این دستور کنترل صادرات را گمراهکننده دانستند.
خطر واقعی اکنون وجود مدل نیست، بلکه کند شدن سرعت مدافعان است. کریس ویسوپال (Chris Wysopal)، همبنیانگذار Veracode، استدلال میکند که پرسش اصلی این نیست که آیا یک فناوری ریسک دارد یا خیر، بلکه این است که آیا یک محدودیت خاص واقعاً ریسک را بهطور معناداری کم میکند یا «فقط سرعت کسانی را که میخواهند سیستمها را امنتر کنند، میگیرد».
منتظر موج بعدی مدلهای وزن-باز باشید که در ماههای آینده عرضه میشوند. اگر آنها قابلیتهای Mythos 5 را تقلید کنند، کنترلهای صادرات فعلی آمریکا شببهشب عملاً منسوخ خواهند شد.
گام بعدی شما
- بررسی مدلهای بازمتن جدید که در ماههای آینده عرضه میشوند تا میزان همپوشانی آنها با قابلیتهای Mythos 5 را بسنجید.
- بازنگری در استراتژیهای دفاع سایبری؛ به جای تکیه بر نبودِ ابزار در دست مهاجم، روی شناسایی سریعتر آسیبپذیریها تمرکز کنید.
- رصد واکنشهای OpenAI به این ممنوعیت، زیرا احتمالاً مدلهای امنیتی خود را با رویکردی متفاوت عرضه خواهد کرد.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو