اگر منتظر بازگشت Claude Fable 5 هستید، دسترسی شما به این ابزار اکنون به این بستگی دارد که آیا Anthropic میتواند مشکلی را حل کند که بسیاری از متخصصان آن را «غیرقابل حل» میدانند. دولت ترامپ انتشار مجدد این مدل را منجمد کرده و خواستار تضمینی شده است که کاربران نتوانند با استفاده از جیلبریک (Jailbreak) — که شبیه پیدا کردن یک در پشتی مخفی در یک ساختمان امنیتی است برای دور زدن قوانین — پروتکلهای ایمنی را دور بزنند.
این بنبست پس از آن رخ داد که دولت هفتهی گذشته از کنترلهای صادراتی برای آفلاین کردن مدل استفاده کرد. طبق گزارشها، دولت بر اساس یافتههای آژانس امنیت ملی (NSA) عمل میکند؛ این سازمان به نتیجه رسیده است که نردههای حفاظتی Fable 5 را میتوان غیرفعال کرد. این موضوع ریسک دسترسی کاربران به قابلیتهای محدود شدهی مدل زیربنایی Mythos، بهویژه در زمینههای شیمی، بیولوژی و امنیت سایبری را افزایش میدهد.
به گزارش Wired، تنشها در جریان یک جلسه فنی در روز دوشنبه بین وزارت بازرگانی و دفتر ملی مدیر سایبری، شان کرینکراس، به اوج رسید. مقامات Anthropic استدلال کردند که نگرانیهای دولت اغراقآمیز است و تأثیر واقعی این جیلبریکها بسیار اندک است. با این حال، دولت اکنون بار اثبات ایمنی را بهطور کامل بر دوش شرکت گذاشته است.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، تضاد میان سرعت عرضه و استانداردهای امنیتی اکنون به یک نقطه بحرانی رسیده است.
دستورالعمل دولت
مقامات کاخ سفید اعلام کردهاند که منابع محدود سازمانها را صرف «تعقیب هر جیلبریک تصورپذیر» نمیکنند. نه NSA و نه مرکز استانداردها و نوآوری هوش مصنوعی در وزارت بازرگانی، نیروی انسانی کافی یا پهنای باند لازم برای نظارت بر تکتک مدلهای بازار را ندارند. به همین دلیل، آنها از Anthropic خواستهاند تا اقدامات زیر را انجام دهد:
- مدل Fable 5 و سایر مدلهای پیشرو را بهطور پیشدستانه برای یافتن حفرهها و آسیبپذیریها آزمایش کند.
- جیلبریکهای احتمالی را پیش از آنکه مورد سوءاستفاده قرار گیرند، به دولت گزارش دهد.
- یک راهکار دائمی برای آسیبپذیریهای شناسایی شده توسط NSA اجرا کند.
بنبست فنی
متخصصان مستقل امنیت سایبری معتقدند کاخ سفید چیزی غیرممکن را میخواهد. آنها نردههای حفاظتی فعلی را تنها راهکارهای موقتی و موقت میبینند. اجماع نظر این است که کاربران ماهر و مدلهای آینده همیشه راهی برای دور زدن محدودیتها پیدا میکنند؛ این بدان معناست که احتمالاً مدلی که «بهطور کامل ایمن از جیلبریک» باشد، اصلاً وجود ندارد.
برای رهبران کسبوکار، این اتفاق نشاندهندهی تغییری در فضای رگولاتوری است. دولت دیگر فقط دستورالعملهای ایمنی پیشنهاد نمیکند، بلکه از کنترلهای صادراتی بهعنوان یک «کلید قطعکننده» (Kill-switch) برای مدلهایی که استانداردهای داخلی امنیتی را ندارند، استفاده میکند. این وضعیت محیطی متزلزل برای آزمایشگاههای هوش مصنوعی ایجاد میکند که به چرخههای استقرار سریع وابسته هستند.
آشوب در جامعه اطلاعاتی
این اصطکاک رگولاتوری بازتابی از هرجومرج فعلی در جامعه اطلاعاتی است. بیل پولتی، انتخاب ترامپ برای مدیریت موقت اطلاعات ملی (DNI)، در ابتدا احتمال میرفت هرگز کارش را شروع نکند. پولتی که رئیس تامین مالی مسکن بود، بهدلیل فقدان تجربه لازم در امنیت ملی و همچنین مطرح کردن اتهامات مشکوک کلاهبرداری وام علیه دشمنان سیاسی، با مخالفتهای شدیدی از سوی هر دو حزب روبرو شد.
ترامپ بعداً جی کلیتون، دادستان منطقه جنوبی نیویورک را بهعنوان DNI دائمی نامزد کرد. در حالی که تولسی گبار-د قرار بود در ۱۸ ژوئن پست خود را ترک کند و پولتی قرار بود ۱۹ ژوئن شروع به کار کند، جمهوریخواهان مجلس سنا سعی کردند جلسه استماع کلیتون را به ۱۷ ژوئن جلو بیندازند تا روند جایگزینی را تسریع کنند. اما روز چهارشنبه، ترامپ جلسه کلیتون را بهدلیل اختلاف با رهبری سنا بر سر «فایلباستر» (مانعتراشی در مجلس) بهطور نامحدود به تعویق انداخت و بهطور غیرمستقیم به پولتی فرصت داد تا در جایگاهش بماند.
منتقدان داخلی در ODNI ادعا میکنند پولتی تلاش حداقلی برای شناخت سازمان داشته و جلسات توجیهی منظم را نمیبیند. کارکنان میگویند پولتی بیشتر به مزایای این نقش — مانند تیم حفاظتی و جتهای دولتی — علاقه دارد تا تولید گزارشهای اطلاعاتی دقیق و سخت که معمولاً قدردانیناپذیر هستند.
نفوذ و دسترسی
در حالی که این نبردهای سیاستی جریان دارد، دولت همچنان روابط شرکتی خود را تقویت میکند. در مراسم UFC Freedom 250 در آخر هفته، صف طویل حامیان مالی و مدیران برای نزدیکی به ترامپ تشکیل شد. چهرههای شاخصی مانند دیوید الیسون، مدیرعامل Paramount، که اخیراً مجوز ضد انحصار وزارت دادگستری را برای خرید Warner Bros Discovery گرفت، و مارک زاکربرگ، مدیرعامل Meta، که در حال گفتگو با ترامپ دیده شد، در این مراسم حضور داشتند.
شرکت Meta همچنین یک مهمانی خصوصی در Ned’s Club مشرف به کاخ سفید برگزار کرد. در این جمع، تاد بلانچ (سرپرست دادستان کل)، جیمز بلر (معاون رئیس کارکنان کاخ سفید)، کارولین لویت (سخنگوی کاخ سفید) و داگ بورگوم (وزیر داخلی) حضور داشتند. همچنین جرد، ایوانکا و کای ترامپ در کنار چهرههایی چون کلیان کانوی، آدریان الرود و بنیانگذاران Axios، مایک آلن و جیم واند-هی در این مهمانی شرکت کردند.
در نهایت، ماجرای Fable 5 ثابت میکند که «ایمنی» اکنون به یک ابزار ژئوپلیتیک تبدیل شده است. اگر نردههای یک مدل از نظر NSA نفوذپذیر باشد، آن مدل بهجای یک دارایی تجاری، به یک تهدید برای امنیت ملی تبدیل میشود. صنعت به سمتی میرود که دولت، و نه توسعهدهنده، تصمیم میگیرد یک مدل چه زمانی برای عموم «به اندازه کافی ایمن» است.
گام بعدی شما
- اگر از مدلهای Claude استفاده میکنید، برای قابلیتهای جدید Fable 5 منتظر تاییدیه رسمی دولت آمریکا باشید.
- استراتژیهای استقرار مدلهای خود را بر اساس «کنترلهای صادراتی» بازنگری کنید، نه فقط قوانین کپیرایت.
- گزارشهای NSA درباره حفرههای امنیتی مدلهای زبانی را دنبال کنید تا نقاط ضعف احتمالی در سیستمهای خود را بشناسید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو