تصور کنید یک خطای کوچک در کدنویسی یا یک نویز سیگنالی، باعث شود یک سامانه دفاعی در کسری از ثانیه حملهٔ دشمن را تصور کند و بدون اجازهٔ انسان، بمب‌های هسته‌ای را شلیک کند. این کابوس اکنون به اولویت اول دیپلماسی فنی تبدیل شده است.
به نقل از گزارش the-decoder.com، در ۱۸ سپتامبر ۲۰۲۶، ملانی سیسون از مؤسسه بروکینگز و تیان‌جیاو جیانگ از دانشگاه فودان، پیشنهادی برای «ممنوعیت جهانی» استقرار مستقل تسلیحات هسته‌ای ارائه کردند. این اقدام درست پیش از دیدار ۲۴ سپتامبر دونالد ترامپ و شی جین‌پینگ صورت گرفته تا فشار علمی بر سیاست‌مداران افزایش یابد.
این تلاش در حالی رخ می‌دهد که دو ابرقدرت هنوز بر سر مرزهای استفاده از هوش مصنوعی در جنگ به توافق نرسیده‌اند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی ایمنی مدل‌های بنیادی اشاره کردیم، نبودِ سازوکارهای الزام‌آور می‌تواند منجر به فجایعی شود که در آن ماشین‌ها سریع‌تر از توان درک انسان تصمیم می‌گیرند. در واقع، هوش مصنوعی زاینده (Generative AI) — شبیه به نویسنده‌ای که با سرعت برق‌آسا متن تولید می‌کند اما گاهی واقعیت را با خیال می‌آمیزد — اگر در سیستم‌های فرماندهی قرار گیرد، ریسک «توهم» در مقیاس هسته‌ای را ایجاد می‌کند.
بر اساس مستندات این پیشنهاد، چهار خط قرمز حیاتی برای ایمنی هسته‌ای تعریف شده است:
- هیچ سامانه AI نباید اجازه داشته باشد به‌طور مستقل سلاح هسته‌ای پرتاب کند.
- حمله به سیستم‌های فرماندهی و کنترل هسته‌ای توسط AI ممنوع است.
- اختیار نهایی حملات سایبری به زیرساخت‌های استراتژیک باید فقط در دست انسان باشد.
- هر دو کشور باید بر سر یک تعریف استاندارد از «کنترل انسانی» توافق کنند.
برای جلوگیری از «جنگ‌های برق‌آسا» (Flash Wars)، تیان‌جیاو جیانگ پیشنهاد ایجاد یک خط تلفن مستقیم برای حوادث AI را داده است. این خط به دولت‌ها اجازه می‌دهد سریعاً بررسی کنند که آیا یک واکنش خودکار مشکوک، یک حادثه فنی بوده یا یک حمله عمدی. با این حال، کارلا فریمن از دانشگاه جانز هاپکینز هشدار داده که اعتماد متقابل کم است؛ او به یادآوری کرد که چین در بحران بالن جاسوسی ۲۰۲۳، تماس‌های آمریکا را نادیده گرفت.
این چرخش نشان می‌دهد که حتی در اوج تنش‌های ژئوپلیتیک، ترس از تصاعد الگوریتمی بر مزیتِ سرعتِ خودکار برتری یافته است. برای ما، این یعنی سناریوی فیلم «ترمیناتور» دیگر یک تخیل علمی نیست، بلکه یک ریسک سیاستی واقعی است که باید مدیریت شود.
گام بعدی شما
- نتایج نشست ۲۴ سپتامبر را دنبال کنید تا ببینید آیا این توصیه‌ها به سیاست رسمی تبدیل می‌شوند یا در حد مقالات آکادمیک می‌مانند.
- درباره مفهوم «Human-in-the-loop» در سیستم‌های نظامی مطالعه کنید تا بفهمید کنترل انسانی چگونه تعریف می‌شود.
- گزارش‌های مربوط به «جنگ‌های سایبری خودکار» را بخوانید تا ابعاد خطر را درک کنید.
اما داستان سخت‌افزاری این رقابت حتی پیچیده‌تر است؛ برای درک اینکه تراشه‌های پیشرفته چگونه این سرعت تصمیم‌گیری را ممکن می‌کنند، به تحلیل ما درباره‌ی زنجیره تأمین GPUها مراجعه کنید.
گفتگو