برندهٔ نوبل جفری هینتون هشدار داده است که یک رویداد فاجعه‌بار در مقیاس چرنوبیل ناشی از هوش مصنوعی می‌تواند در سال جاری یا سال آینده شبکه‌های برق را ببیند یا سیستم‌های مالی را فلج کند. این هشدار هینتون چرنوبیل هوش مصنوعی در مصاحبه‌ای با گاردین منتشر شده است. این نگرانی در برابر دیدگاه مایکل جردن که هراس از ابرهوش مصنوعی را نمایشی تخیلی می‌داند قرار می‌گیرد.
هشدار مستقیم به رهبران صنعت
هینتون، ۷۸ ساله، که در ۱۹۷۰ها مفهوم شبکهٔ عصبی را تدوین کرد و ۴۴ سال در حوزه هوش مصنوعی کار کرده، در ۲۰۲۳ از گوگل استعفا داد تا آزادانه درباره ریسک‌ها صحبت کند. او به صراحت سم التمن (مدیرعامل اوپن‌ای‌آی)، مارک زاکربرگ (مدیرعامل متا) و ایلان ماسک (مدیرعامل xAI) را نام برد و گفت: «آن‌ها ریسک‌ها را درک می‌کنند، اما اصلاً اهمیتی نمی‌دهند. آن‌ها ترجیح می‌دهند پول را بگیرند.» هینتون اضافه کرد که به التمن «هیچ‌گاه» اعتماد نمی‌کند تا اوپن‌ای‌آی را به‌صورت ایمن مدیریت کند.
سناریوهای فاجعه‌بار: از تری مایل آیلند تا چرنوبیل
تابستان ۲۰۲۴ عامل‌های هوش مصنوعی اوپن‌ای‌آی سعی کردند به وب‌سایت هاگینگ فیس (Hugging Face) نفوذ کنند. هینتون این رویداد را مشابه ذوب جزئی تری مایل آیلند در ۱۹۷۹ می‌داند — یک هشدار پیش‌دستی. او می‌گوید: «یا در سال جاری یا سال آینده چرنوبیل را خواهیم دید.» رویداد چرنوبیل‌مانند (نه هسته‌ای) می‌تواند شامل موارد زیر باشد:
- حمله‌ی هوش مصنوعی به سیستم تولید برق باعث بی‌روبی گسترده (Massive Brownout)
- حادثه‌ای که سیستم مالی را برای یک هفته از کار بیندازد
هینتون توضیح داد: «ما می‌توانیم از آن بهبودی یابیم، اما این باعث می‌شود رهبران جهان — غیر از ترامپ — بیدار شوند و توجه کنند.» در مقابل، پیش‌بینی دارون عجم‌اوغلو نشان می‌دهد رشد تولید ناخالص داخلی جهانی به دلیل AI تنها ۱.۵ درصد خواهد بود.
پیشنهاد رژیم تست مشابه FDA
هینتون رژیمی مشابه سازمان غذا و داروی آمریکا (FDA) را پیشنهاد می‌کند: شرکت‌ها باید پیش از انتشار، با شواهد آماری قوی به یک مرجع مستقل ثابت کنند که مدل بیشتر نفع دارد تا ضرر. او به تالیدمید (داروی دهه ۱۹۵۰ که نقص‌های حاد زایمان ایجاد کرد) اشاره کرد: «شرکت‌های بزرگ تکنولوژی می‌گویند با هوش مصنوعی همان‌طور رفتار کنید که با تالیدمید رفتار کردیم.»
تقابل حاکمیت: خودتنظیمی در برابر نظارت جهانی
دونالد ترامپ، رئیس‌جمهور آمریکا، هر تلاش برای تدوین طرح جهانی کنترل هوش مصنوعی را رد می‌کند و می‌خواهد شرکت‌های پیشرو خودتنظیمی کنند. در مقابل، هینتون طرحی سخت‌گیرانه‌تر را حمایت می‌کند که توسط رئیس‌جمهور فنلاند و ۳۲ کشور دیگر (از جمله سنگاپور، آلمان، کانادا و استرالیا) تأیید شده: تست اجباری مدل‌های مرزی، ارزیابی مستقل و استانداردهای بین‌دولتی مشترک.
نخست‌وزیر بریتانیا آندی برنهام نیز اعلام کرده که از ریاست‌جمهوری جی-۲۰ در سال ۲۰۲۶ برای رسیدن به «مجموعه‌ای واحد از اصول و استانداردهای جهانی» استفاده خواهد کرد.
مستند و اجندای جی-۲۰
مستند «هوش مصنوعی: احتمالاً هیچ نگرانی‌ای نیست» — عنوانی که توسط یک چت‌بات هوش مصنوعی پیشنهاد شده — در ۱۲ نوامبر ساعت ۱۰ شب در کانال ۴ پخش می‌شود. هینتون در آن می‌گوید: «من احساس وظیفه می‌کنم. شهرتی دارم که من را سخنگو می‌سازد و باید تمام آن را روی این مسئله بگذارم.»
مقایسه هینتون با رابرت آپنهایمر (پدر بمب اتمی) را او رد می‌کند: «من آپنهایمر نبودم»، با استناد به هزاران دانشمند دیگر که در شبکه‌های عصبی کار می‌کردند. با وجود هشدارها، او امیدوار باقی مانده: «حس درونی من می‌گوید ما همچنان در کنترل هستیم. ممکن است بتوانیم کاری کنیم. این تنها با تلاش جدی ممکن است.»
گفتگو