تصور کنید سیستمی که هر ثانیه کد خودش را بازنویسی میکند تا قدرتمندتر شود و در نهایت، کلید کنترل را از دست انسان بیرون بکشد. این کابوس، دلیل اصلی فشار رو خانا (Ro Khanna)، نماینده دموکرات کالیفرنیا، برای امضای یک معاهده رسمی میان آمریکا و چین است تا از فرار هوش مصنوعی از کنترل بشری جلوگیری شود. خانا که عضو ارشد کمیته منتخب چین در مجلس نمایندگان است، استدلال میکند که هیچ ابرقدرتی از دنیایی که در آن سرنوشت بشر به سامانههای خودمختار سپرده شده، سود نمیبرد.
این فشار سیاسی در حالی رخ میدهد که رقابت تکنولوژیک میان واشینگتن و پکن در حساسترین مرحله خود قرار دارد. در حالی که دو کشور در حوزههای تجاری و امنیتی در تضاد شدید هستند، خانا ایمنی هوش مصنوعی را نقطه مشترک نادری میبیند. او در نامهای به جی کلیتون، مدیر اطلاعات ملی، تأکید کرده است که اگرچه منافع دو کشور در بسیاری از مسائل «نمیتواند متفاوتتر از این باشد»، اما خطر از دست دادن کنترل بر سرنوشت بشر، یک دغدغه مجزا است که هر دو طرف را تحت تأثیر قرار میدهد.
او نبود نظارت فعلی را به مثابه این میداند که مدیران شرکتهای داروسازی را مأمور نوشتن قوانین ایمنی داروهای خود کنیم؛ وضعیتی که در آن تضاد منافع وجود دارد و سود مالی بر ریسکهای عمومی اولویت مییابد. خانا حتی نشست برنامهریزی شده روز سهشنبه میان کاخ سفید، مایک جانسون (رئیس مجلس نمایندگان) و مدیران فناوری آمریکایی را مورد تردید قرار داد و آن را صرفاً یک «تمرین برندینگ» برای آرام کردن افکار عمومی خواند.
بر اساس مستنداتی که در اختیار The Verge قرار گرفته، خانا سه شرکت بزرگ چینی یعنی DeepSeek، Alibaba و Moonshot AI را هدف قرار داده است. این شرکتها همگی به طور فعال در حال توسعه هوش مصنوعی در سطوح بالا هستند. او مستقیماً از این شرکتها خواست تا مدارک مربوط به تلاش برای دستیابی به «ابرهوش» و خودبهسازی بازگشتی (Recursive Self-Improvement) — یعنی همان نقطه عطفی که در آن سامانههای هوش مصنوعی به طور خودمختار کد خود را بازنویسی میکنند تا قدرتمندتر شوند — را ارائه دهند. این رویکرد خودکارسازی در طراحی، مشابه آنچه در تلاشهای استارتاپهای جدید برای کاهش زمان طراحی تراشهها از چند سال به چند هفته دیده میشود، میتواند سرعت تکامل فناوری را به شکلی غیرقابل پیشبینی افزایش دهد.
درخواستهای خانا بر چهار محور ایمنی متمرکز است:
- استقرار «کلیدهای قطع اضطراری» (Kill Switches) برای متوقف کردن سامانههایی که از کنترل خارج شده و به سرعت رشد میکنند.
- ارائه مستندات دقیق مربوط به حفاظها (Guardrails) در برابر ریسکهای فاجعهبار.
- تعهد به پذیرش بازرسیهای سازمانهای غیردولتی در صورت امضای یک معاهده رسمی.
- تلاش برای کاهش سرعت توسعه هوش مصنوعی، مشابه تعهداتی که شرکتهای OpenAI و Anthropic پذیرفتهاند.
خانا فراتر از بخش خصوصی، از دفتر مدیر اطلاعات ملی (ODNI) خواسته است تا ارزیابی کند اگر یک آزمایشگاه هوش مصنوعی کنترل باتهای خود را از دست بدهد، واکنش ایالات متحده چه خواهد بود. او همچنین درخواست کرد که این آژانس، رویکرد دولت چین در ارزیابی ریسکهای فاجعهبار هوش مصنوعی را مورد بررسی قرار دهد.
این نگرانیها پس از حادثهای در تابستان ۲۰۲۴ شدت گرفت که در آن گزارش شد عاملهای OpenAI توانستهاند به Hugging Face نفوذ کنند. این اتفاق نشان داد که سامانههای عاملمحور (Agentic) — شبیه به کارمندانی که میتوانند بدون نظارت، ابزارهای مختلف را برای رسیدن به هدف به کار بگیرند — تا چه حد ناپایدار و پیشبینیناپذیر هستند. خانا معتقد است این اطلاعات برای کنگره و کاخ سفید حیاتی است تا بتوانند یک توافق رسمی با طرفهای چینی منعقد کنند.
با این حال، مقاومت سیاسی در برابر این معاهده بالاست. پس از دیدار هفته گذشته دونالد ترامپ و شی جینپینگ، ترامپ در شبکه Truth Social نوشت که «ابرهوش (SI) موضوع بحث بزرگی خواهد بود، اما من میخواهم آن را دقیقاً در همان جایی که هست رها کنم.» او خاطرنشان کرد که این موضع، دیدگاه چین نیز هست.
مایک جانسون، رئیس مجلس نمایندگان (جمهوریخواه از لوئیزیانا)، نیز در گفتگو با Fox Business همین احتیاط را تکرار کرد. او استدلال میکند که باید «تعادل درستی» در نظارت برقرار شود تا نوآوری سرکوب نشود و هشدار داد که آمریکا نمیتواند ریسک عقب افتادن در «مسابقه هوش مصنوعی» در برابر چین را بپذیرد. در مقابل، برخی از شرکتهای پیشرو در آمریکا خواستار هماهنگی با چین برای کاهش واقعی سرعت توسعه شدهاند.
از نظر خانا، این مواضع سیاسی با واقعیتهای علمی فاصله دارند. او استدلال میکند که مدیران شرکتها و سیاستمداران تخصص فنی لازم برای هدایت این بحث را ندارند و پیشنهاد میکند که مهندسان و دانشمندان باید رهبری گفتگوهای ایمنی را بر عهده بگیرند. او معتقد است آمریکا همچنان میتواند استانداردهای جهانی را تعیین کند، زیرا بسیاری از مدلهای چینی از طریق distillation — یعنی استخراج دانش از مدلهای بزرگتر آمریکایی برای ساخت مدلهای کوچکتر — ساخته شدهاند.
برای یک ناظر عادی، این بدان معناست که «مسابقه هوش مصنوعی» دیگر فقط بر سر این نیست که چه کسی سریعترین مدل را دارد، بلکه بحث بر سر این است که آیا میتوان فناوری را قبل از رسیدن به نقطه رشد بازگشتی که هیچ انسانی قادر به توقف آن نباشد، محدود کرد یا خیر.
اگر معاهدهای کامل — که برنی سند (سنتور مستقل از ورمونت) نیز از آن حمایت کرده — به دلیل بدبینی جمهوریخواهانی چون جان مولنار (رئیس کمیته چین در مجلس) شکست بخورد، خانا پیشنهاد تشکیل یک گروه کاری از متخصصان هر دو کشور را داده است. این گروه وظیفه خواهد داشت توصیههای ایمنی و روشهای انطباق را پیشنهاد دهد تا اطمینان حاصل شود که هیچیک از طرفین به طور تصادفی باعث یک فاجعه جهانی نشوند.
در نهایت، پاسخ ODNI به این استعلامات بسیار کلیدی خواهد بود؛ زیرا مشخص میکند آیا دولت آمریکا خودبهسازی بازگشتی را یک تهدید ملموس برای امنیت ملی میبیند یا صرفاً یک دغدغه تئوریک و آکادمیک.
گام بعدی شما
- دنبال کردن پاسخ ODNI به این استعلامات؛ زیرا مشخص میکند آیا دولت آمریکا خودبهسازی بازگشتی را یک تهدید واقعی امنیتی میبیند یا یک بحث تئوریک.
- بررسی گزارشهای مربوط به نفوذ عاملهای AI به زیرساختهای ابری برای درک ریسکهای عملیاتی.
- مطالعه استانداردهای ایمنی منتشر شده توسط Anthropic برای مقایسه با خواستههای خانا.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو