تصور کنید سلاحی دیجیتال بسازید و آن را در فضای باز رها کنید، در حالی که هیچ دکمهٔ توقفی برای آن وجود ندارد. این دقیقاً همان کابوسی است که ساریو آمودویی، مدیرعامل Anthropic، درباره انتشار مدلهای پیشرفته با وزنهای باز (Open Weights) — شبیه به انتشار دستور پخت یک غذای پیچیده که هر کسی بتواند آن را در آشپزخانه خود تغییر دهد — توصیف میکند.
به نقل از پست وبلاگی آمودویی در ۲۸ ژوئیه ۲۰۲۶، مدلهای قدرتمندی که وزنهای خود را به صورت عمومی منتشر میکنند، یک عدم تعادل امنیتی سیستماتیک ایجاد کردهاند. او استدلال میکند که برخلاف مدلهای بسته، اگر در یک مدل باز حفرهای امنیتی پیدا شود، نمیتوان آن را «فراخوان» کرد یا از دسترس عموم خارج کرد؛ این مدلها به یک بدهی دائمی تبدیل میشوند. با این حال، وی در مواضع پیشین خود تاکید کرده بود که آنتروپیک لزوماً با ممنوعیت کامل مدلهای وزنباز مخالف نیست.
همانطور که در تحلیل قبلی ما دربارهی آسیبپذیری SharedRoot در سامانههای آنتروپیک اشاره کردیم، شکافهای امنیتی اجتنابناپذیرند. آمودویی دو سناریوی بحرانی را شرح میدهد:
- امنیت ملی: دولتهای اقتدارگرا، بهویژه چین، میتوانند از این مدلها برای دستیابی به برتری نظامی یا گسترش نظارتهای سختگیرانه استفاده کنند. این دیدگاه در تضاد با برخی تحلیلهاست که معتقدند مدلهای وزنباز چینی لزوماً تهدیدی برای امنیت ملی آمریکا نیستند.
- امنیت زیستی: در حالی که متخصصان دفاعی سالها برای ساخت حفاظها زمان نیاز دارند، یک مدل باز قدرتمند میتواند به مهاجم کمک کند تا در عرض چند هفته یک ویروس را به سلاح تبدیل کند.
بر اساس مستندات این شرکت، آمودویی برای مقابله با این تهدیدها، اجرای آزمونهای ایمنی اجباری و تشدید کنترل صادرات سختافزار را پیشنهاد میدهد. او بهطور خاص روی «تقطیر» (Distillation) صنعتی متمرکز شده است؛ تکنیکی که گزارش شده چین با استفاده از آن، مدلهای کوچکتر را بر اساس خروجیهای مدلهای بزرگ آمریکایی آموزش میدهد تا محدودیتهای سختافزاری را دور بزند.
این دیدگاه با مقاومتهایی نیز روبروست. مطالعهای توسط مؤسسه امنیت هوش مصنوعی بریتانیا نشان داد که مدلهای باز در حوزه امنیت سایبری تنها چند ماه با مدلهای پیشرو فاصله دارند. منتقدان میگویند فشار آنتروپیک برای وضع مقررات، یک حرکت استراتژیک برای محافظت از کسبوکار این شرکت در برابر رقابت ارزانقیمت مدلهای متنباز است.
از منظر تجاری، این نبردی بر سر «خندق» یا همان مزیت رقابتی است. آنتروپیک و OpenAI با تعریف مدلهای باز به عنوان یک خطر برای امنیت عمومی، استدلال میکنند که هوش مصنوعی سطح بالا باید برای حفظ امنیت جهانی، تنها از طریق APIهای اختصاصی در دسترس باشد.
گام بعدی شما
- بررسی تفاوتهای عملکردی مدلهای باز (مثل Llama) در برابر مدلهای بسته (مثل Claude) در کارهای حساس.
- دنبال کردن واکنش دولت آمریکا به نامههای صنعتی که مخالف محدودیتهای مدلهای باز چینی هستند.
- مطالعه استانداردهای جدید «تیم قرمز» برای شناسایی قابلیتهای خطرناک در مدلهای محلی.
این تنها بخشی از کشمکش قدرت است؛ اثر این تصمیمات بر آینده «هوش مصنوعی حاکمیتی» را در گزارش بعدی بررسی خواهیم کرد.
گفتگو