تصور کنید مدل‌های هوش مصنوعی دیگر فقط متن تولید نمی‌کنند، بلکه مانند یک اپراتور ماهر، ابزارهای سیستم شما را کنترل کرده و بدون اجازه، کدهایی مخرب می‌نویسند. اگر استانداردهای ایمنی جهانی به‌سرعت تعریف نشوند، جهان با یک «لحظه چرنوبیل» در فضای سایبری رو‌به‌رو خواهد شد.
در هفته‌ی ۱۷ تا ۲۳ ژوئن ۲۰۲۶، گردهمایی حساس محققان هوش مصنوعی در منطقه زونگ‌گوان‌کون پکن، وحشت مشترکی را میان متخصصان آمریکایی و چینی آشکار کرد. این منطقه فناوری پرجنب‌وجوش، میزبان جلساتی بود که طیف وسیعی از موضوعات، از ربات‌های انسان‌نما گرفته تا «بهبود خودکار بازگشتی» (recursive self-improvement) را بررسی می‌کرد؛ ایده‌ای که در آن مدل‌ها قادرند کد خود را تغییر داده و به‌طور نامحدود پیشرفت کنند. در حالی که دو ابرقدرت درگیر جنگ تجاری بر سر تراشه‌ها هستند، خطر یک شکست سیستمی در AI چنان بزرگ شده که هیچ‌کدام نمی‌توانند به‌تنهایی آن را مدیریت کنند. ترس اصلی این است که مدل‌های خودکار و عامل‌محور (Agentic Models) — مانند دستیارهای هوشمندی که می‌توانند به جای کاربر در وب بچرخند و کارهای پیچیده را انجام دهند — به‌زودی از طریق حملات سایبری خودکار، هرج‌ومرج جهانی ایجاد کنند. این نگرانی‌ها با هشدارهای اخیر ائتلاف Five Eyes هم‌راستا است که مدل‌های پیشرو را قادر به فلج کردن دولت‌ها در بازه‌های زمانی کوتاه می‌دانند.
این تنش در حالی رخ می‌دهد که واشنگتن فشار بر زنجیره تأمین AI را افزایش داده است. ایالات متحده پیشرفتهای هوش مصنوعی چین را اساساً به عنوان یک تهدید اقتصادی و تهدیدی برای امنیت ملی می‌بیند و برای متوقف کردن این توسعه، محدودیت‌های شدیدی بر تراشه‌ها و تجهیزات ساخت تراشه اعمال کرده است. این فشارها باعث شده تا پکن در قالب استراتژی «حاکمیت محاسباتی»، به‌شدت بر جایگزینی Nvidia با سخت‌افزار بومی متمرکز شود. به گزارش منابع صنعتی، دولت آمریکا اخیراً دستور داد شرکت Anthropic دسترسی اتباع خارجی را به توانمندترین مدل‌های خود، یعنی Mythos و Fable 5، به دلیل ملاحظات امنیت ملی مسدود کند. در واکنشی غیرمنتظره، Anthropic با ابطال دسترسی تمامی کاربران پاسخ داد. این محدودیت توسط نگرانی‌ها در مورد نهادهای خاصی هدایت می‌شد؛ برای مثال، نشریه WIRED پیش‌تر افشا کرده بود که یک غول مخابراتی کره جنوبی با پیوندهای ادعایی به چین، مورد نگرانی ویژه قرار داشته است. این رویکرد محدودکننده آمریکا، موجی از نگرانی را در میان متحدانش ایجاد کرده و باعث شد کشورهای G7 نسبت به انحصار مدل‌های پیشرفته آمریکایی هشدار دهند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شکاف بین دسترسی و ایمنی در حال عمیق‌تر شدن است. در جلسه‌ای که توسط آکادمی هوش مصنوعی پکن سازماندهی شد، اسطوره‌های علوم کامپیوتر حضور داشتند؛ از جمله اندرو بارتو که به همراه ریچ ساتون برای کارهای پیشگامانه در یادگیری تقویت‌شده (Reinforcement Learning) برنده جایزه تورینگ شده است، و ویتفیلد دیفی، یکی از مخترعان رمزنگاری کلید عمومی.
استیون کسپر، دانشمند علوم کامپیوتر MIT، تأکید کرد که AI یک فناوری جهانی است که مزایا و مضار آن نیز جهانی است و اشاره کرد که تمایلی همیشگی برای انتشار و گسترش قابلیت‌ها وجود دارد. او رقابت فعلی AI را با دوران جنگ سرد مقایسه کرد. او استدلال کرد که ایالات متحده و شوروی مجبور بودند علیرغم مسابقه تسلیحاتی، روی ایمنی هسته‌ای همکاری کنند و هوش مصنوعی نیز به یک چارچوب مشابه «ضد چرنوبیل» نیاز دارد. کسپر به پژوهش‌هایی اشاره کرد که نشان می‌دهد همکاری بین‌المللی در مورد خطرات AI، بسیار بیشتر از ریسک‌های امنیت ملی ناشی از کار مشترک است.
پروفسور لین یون از دانشگاه جیا تونگ شانگهای به چندین آسیب‌پذیری فوری اشاره کرد که در اثر پیشرفته‌تر شدن AI در حال ظهور هستند:
- ظهور انواع جدیدی از حفره‌های امنیتی در کدهایی که توسط AI تولید می‌شوند.
- روش‌های نوظهور برای حمله به سیستم‌ها که توسط «استفاده از ابزار عامل‌محور» فعال شده‌اند، جایی که AI به عنوان یک کاربر مستقل عمل می‌کند.
- متدهای خودکار برای اجرای حملات مهندسی اجتماعی در مقیاس وسیع.
لین یون خاطرنشان کرد که اگرچه هکرها در کوتاه‌مدت برتری دارند، اما دفاعِ مبتنی بر AI در نهایت توازن را برمی‌گرداند. با این حال، او تأکید کرد که استانداردهای فنی مشترک، تنها راه کاهش ریسک سیستمی بدون افشای اسرار حساس عملیاتی است. او استدلال کرد که اگر ملت‌ها ریسک‌ها را به روش‌های مشابهی درک کنند، توسعه اصول ایمنی مشترک آسان‌تر خواهد شد.
چین همواره پیش‌قدم در توسعه مدل‌های دارای وزن‌های باز (Open Weights) — یعنی مدل‌هایی که پارامترهای داخلی آن‌ها علناً منتشر شده تا همه بتوانند از آن استفاده کنند — بوده است. مدل‌های Qwen (علی‌بابا)، Kimi (مون‌شات) و GLM (Z.ai) محبوبیت زیادی در آمریکا یافتند. ایالات متحده نیز اخیراً با معرفی Nemotron انویدیا به این روند پاسخ داد. ریسک‌ها در حال رسیدن به یک نقطه عطف هستند؛ بر اساس تحلیل متخصصان، مدل GLM 5.2 شرکت Z.ai اکنون از مهارت‌های پیشرفتهای در کدنویسی و عمل‌کرد عامل‌محور (Frontier Agentic Skills) برخوردار است.
به نقل از گزارش شرکت 360 Security Technologies (برترین شرکت امنیت سایبری چین)، آن‌ها مدلی توسعه داده‌اند که قابلیت‌های هک آن با مدل Mythos شرکت آنتروپیک برابری می‌کند. این هم‌گرایی به این معنا است که حتی مدل‌های بازِ متوسط، اگر حفاظ‌های ایمنی‌شان (Guardrails) حذف شود، می‌توانند به سلاح‌های سایبری مرگباری تبدیل شوند. نسل بعدی مدل‌های با وزن باز ممکن است به‌زودی به اندازه مدل‌های Fable یا Mythos توانمند باشند.
متخصصان معتقدند صنعت باید روش‌های جدیدی خلق کند تا تضمین شود مدل‌های باز، به‌روز هستند و هیچ «در پشتی» (Backdoor) ندارند. یک منبع ناشناس از آزمایشگاه‌های پیشرو AI چین فاش کرد که نگرانی‌های امنیتی در حال حاضر باعث شده برخی مدل‌های پیشرفته چینی از انتشار به‌صورت متن‌باز فاصله بگیرند تا از تبدیل شدن آن‌ها به سلاح جلوگیری شود.
این چرخش به معنای ورود به عصر AI «پشت درهای بسته» است، حتی در میان آزمایشگاه‌هایی که تاریخی از باز بودن داشتند. اگر دو قدرت برتر جهان روی یک کفِ ایمنیِ حداقلی توافق نکنند، احتمال وقوع یک شکست فاجعه‌بار که مرزهای ملی را نادیده می‌گیرد، افزایش می‌یابد.
برای کسانی که این موضوع را رصد می‌کنند، سیگنال حیاتی بعدی این خواهد بود که آیا ایالات متحده در ازای پروتکل‌های ایمنی مشترک، محدودیت‌های تراشه‌ای را تسهیل می‌کند یا اینکه «پرده آهنین دیجیتال» توسعه مدل‌های واگرا و تنظیم‌نشده را تسریع می‌کند.
برای کسانی که این موضوع را رصد می‌کنند، سیگنال حیاتی بعدی این خواهد بود که آیا ایالات متحده در ازای پروتکل‌های ایمنی مشترک، محدودیت‌های تراشه‌ای را تسهیل می‌کند یا اینکه «پرده آهنین دیجیتال» توسعه مدل‌های واگرا و تنظیم‌نشده را تسریع می‌کند.
گام بعدی شما
- بررسی مستندات فنی مدل‌های GLM 5.2 برای درک سطح توانایی‌های کدنویسی عامل‌محور.
- دنبال کردن اخبار مربوط به احتمال تسهیل محدودیت‌های تراشه‌ای آمریکا در ازای پروتکل‌های ایمنی مشترک.
- ارزیابی مجدد استراتژی‌های دفاع سایبری سازمان‌ها در مواجهه با حملات خودکار مدل‌های زبانی.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو