اگر مدیر یک شرکت فناوری هستید که بر مدلهای پیشرو تکیه دارد، باید بدانید که یک مقاله پژوهشی ساده اکنون میتواند کل محصول شما را در سطح جهانی تعطیل کند. این همان اتفاقی است که برای آنتروپیک افتاد و حالا با یک توافق امنیتی دشوار، دوباره به بازار بازگشته است.
دولت ترامپ در ۱ جولای ۲۰۲۶ اعلام کرد که مدل Fable 5 دیگر «خطر ملی» محسوب نمیشود و محدودیتهای صادراتی آن را لغو کرد. این تصمیم پس از آن آمد که آنتروپیک حفاظها (Guardrails) — شبیه به نردههای ایمنی در لبهٔ یک ساختمان که مانع سقوط کاربر میشود — جدیدی را پیاده کرد تا دسترسی به قابلیتهای प्रतिबंधित را بهطور کامل ببندد.
همانطور که در تحلیل قبلی ما دربارهی سیاستهای سختگیرانه دولت در قبال مدلهای بازمتن اشاره کردیم، این گشایش برای آنتروپیک یک پیروزی حیاتی است. تصور کنید یک دروازه دیجیتالی پیشرفته دارید؛ به جای اینکه فقط در را قفل کنند، حالا آنتروپیک هر کسی را که سعی کند قفل را باز کند، به اتاق سادهتر و امنتری هدایت میکند.
ریشهی بحران و مقاله آمازون
به گزارش WIRED، هسته اصلی این اختلاف بر سر مقالهای بود که توسط آمازون منتشر شد. تحلیلهای کتی موسوریس، مدیرعامل Luta Security، افشا کرد که کاربران میتوانند با یک ترفند ساده، محدودیتهای امنیتی Fable 5 را دور بزنند. آنها به جای اینکه از مدل بخواهند «نقاط ضعف امنیتی» یک کد را پیدا کند، از آن میخواستند «کد را اصلاح کند» و مدل در حین اصلاح، ناخواسته آسیبپذیریها را برملا میکرد. این ترفند ساده دلیل اصلی ممنوعیت جهانی مدلهای آنتروپیک توسط دولت آمریکا بود.
بر اساس بررسی منابع متعدد، اگرچه متخصصان امنیت سایبری بهطور کلی این رفتار خاص را نگرانکننده نمیدیدند، اما کشف این حفره توسط دولت منجر به رویارویی شدید با آنتروپیک شد. این تقابل در نهایت منجر به اعمال کنترلهای صادراتی شد که در عمل، سبب شد تا این مدل بهطور کامل از دسترس خارج شده و آفلاین شود. این وضعیت در واقع نقطه اوجی از بنبست امنیتی میان کاخ سفید و آنتروپیک بر سر حفرههای امنیتی مدل Fable 5 بود.
جزئیات سازوکار امنیتی جدید
برای خروج از این بنبست، آنتروپیک پذیرفت تا مکانیزمهای دقیق زیر را اجرا کند:
- شناسایی و رفع پیشدستانه ریسکهای امنیتی، دقیقاً همانطور که هوارد لوتنیک، وزیر بازرگانی آمریکا، در نامه اعلامیه خود دستور داده بود.
- گسترش حفاظها برای مسدود کردن رفتارهای خاصی که در پژوهش آمازون شناسایی شده بودند، بهویژه رفتارهایی که با قابلیتهای حساس در حوزههای امنیت سایبری و بیولوژی مرتبط هستند.
- هدایت هرگونه درخواست مسدودشده به مدل ضعیفتر و قدیمیتر یعنی Opus 4.8 برای پردازش.
پیش از این، درخواستهای مربوط به بیولوژی و امنیت سایبری حساس در حال حاضر به Opus 4.8 منتقل میشدند؛ اما توافق جدید، این منطق هدایت (Routing) را به رفتارهایی که از طریق مقاله آمازون کشف شده بود نیز گسترش میدهد.
در نهایت، مرکز استانداردهای هوش مصنوعی و نوآوری وابسته به وزارت بازرگانی، پس از اینکه محققان تصمیم گرفتند حفاظها برای شرایط فعلی به اندازه کافی مستحکم هستند، اجازه انتشار مدلها را صادر کرد. هرچند مدل Mythos 5 نیز تایید و پاکسازی شد، اما تمرکز اصلی دولت بر روی رفع آسیبپذیری در Fable 5 باقی ماند.
این تسویه حساب نشاندهنده تغییری در استراتژی مدیریت ریسکهای هوش مصنوعی پیشرو توسط دولت آمریکا است. به جای استفاده از ممنوعیتهای دائمی، دولت در حال حرکت به سمت مدل «دسترسی مشروط» است؛ جایی که شرکتها باید ثابت کنند حفاظهایشان میتواند بردارهای حمله شناساییشده را بهصورت لحظهای (Real-time) مدیریت کند.
با این حال، پیروزی آنتروپیک کامل نیست. پیت هگست، وزیر دفاع، به مشاوران خود گفته است که هیچ راه روشنی برای لغو دستور ۲۸ فوریه وجود ندارد که این شرکت را به عنوان «ریسک زنجیره تأمین» معرفی کرده بود. این بدان معناست که در حالی که نرمافزار دوباره آنلاین شده است، اما جایگاه و اعتبار شرکت نزد وزارت دفاع آمریکا همچنان متزلزل و مخاطرهآمیز است.
برای رهبران کسبوکار، این اتفاق یک ریسک عملیاتی جدید را برجسته میکند: «کلید قطع برق رگولاتوری». اکنون یک مقاله پژوهشی واحد از سوی یک رقیب یا یک نهاد دانشگاهی میتواند باعث صدور یک دستور فدرال شود که محصول پرچمدار شما را در عرض چند روز در سراسر جهان از دسترس خارج کند.
شرکتهایی که بر مدلهای پیشرو تکیه میکنند، اکنون باید استکهای هوش مصنوعی خود را متنوع کنند. تکیه بر یک تامینکننده واحد که در برابر تصمیمات ژئوپلیتیک یا تغییرات رگولاتوری آسیبپذیر است، دیگر یک استراتژی سازمانی قابل اتکا نیست.
باید منتظر ماند و دید آیا آزمایشگاههای دیگر هوش مصنوعی نیز مجبور میشوند مکانیزمهای «جایگزین» (Fallback) مشابهی را اتخاذ کنند یا خیر؛ مکانیزمهایی که در آن پرسشهای حساس به مدلهای قدیمیتر و کنترلشدهتر تنزل مییابند تا بازرسان فدرال را راضی کنند.
گام بعدی شما
- استراتژی مدل تکتأمینکننده (Single-vendor) را کنار بگذارید و سبد مدلهای AI خود را متنوع کنید.
- برای ابزارهای حساس، مکانیزم «جایگزین» (Fallback) طراحی کنید تا در صورت قطع دسترسی به مدل پیشرو، بیزنس شما متوقف نشود.
- نظارت دقیقتری بر مقالات پژوهشی رقبای سختافزاری و نرمافزاری داشته باشید، زیرا این مقالات اکنون به «کلید قطع برق» قانونی تبدیل شدهاند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو