تصور کنید مهندسی که ابزارهای شتاب‌دهنده سخت‌افزاری را می‌سازد، ناگهان به این نتیجه برسد که اثر کارش برای بشریت منفی است. رابرت اوکالاهان، متخصص فنی گوگل دیپ‌مایند (Google DeepMind) در نیوزیلند، در ۲۵ سپتامبر ۲۰۲۶ با چنین دیدگاهی از این شرکت استعفا داد.
او تلاش برای دستیابی به هوش مصنوعی فوق‌هوشمند (ASI) — سیستمی که در تمام زمینه‌ها از انسان پیشی می‌گیرد — را «ذاتاً غیرمسئولانه» توصیف کرد. اوکالاهان که پیش‌تر ابزارهای طراحی تراشه را برای ارزان‌تر و سریع‌تر کردن مدل‌ها توسعه داده بود، اکنون می‌گوید دیگر نمی‌تواند این مشارکت‌ها را با توجه به ریسک‌های موجود توجیه کند. این تصمیم او در ادامه موجی از نگرانی‌هاست که منجر به استعفای زنجیره‌ای پژوهشگران گوگل و آنتروپیک از ترس خودبه‌سازی هوش مصنوعی شده بود.
این اتفاق در حالی رخ می‌دهد که رقابت برای تسلط بر زیرساخت‌ها شدت گرفته است. همان‌طور که در تحلیل قبلی ما درباره‌ی رقابت اپل، آمازون و گوگل بر سر هوش مصنوعی دوربین‌ها اشاره کردیم، تمرکز شرکت‌ها بر مقیاس‌پذیری تجاری است؛ اما استعفای اوکالاهان نشان می‌دهد شکاف عمیقی میان سودآوری و ایمنی وجود دارد. او اشاره می‌کند بسیاری از همکارانش نیز همین ترس‌ها را دارند اما از صحبت علنی می‌ترسند.
به گزارش وب‌سایت the-decoder.com، اوکالاهان تهدیدات بحرانی زیر را شناسایی کرده است:
- ریسک‌های شناختی و روان‌شناختی: بروز روان‌پریشی‌های ناشی از هوش مصنوعی، تنهایی مفرط و «تسلیم شناختی» انسان در برابر ماشین.
- ریسک‌های سیستمی: تمرکز قدرت در دست چند نهاد، اختلالات اقتصادی گسترده و آسیب‌پذیری‌های شدید در امنیت سایبری.
- حکمرانی: نبود هرگونه پاسخگویی و نظارت واقعی بر سامانه‌های فوق‌هوشمند.
او اکنون قصد دارد بر پروژه‌های «صراحتاً انسان‌دوست» تمرکز کند. او در این مسیر به دیدگاه‌های الیزر یودکوفسکی و نیت سوارز درباره فاجعه‌های احتمالی هوش مصنوعی استناد می‌کند، هرچند ادعای آن‌ها مبنی بر «اجتناب‌ناپذیر بودن» فاجعه را به‌طور کامل نپذیرفته است.
این استعفا نشان می‌دهد روایت‌های «روز قیامت» از فلسفه‌های حاشیه‌ای به کف سالن‌های مهندسی منتقل شده است. وقتی کسانی که موتورهای محرک این رونق — یعنی شتاب‌دهنده‌های سخت‌افزاری — را می‌سازند، کار خود را یک «بدهی» یا ریسک می‌بینند، یعنی اصطکاک داخلی در گوگل دیگر فقط درباره اخلاق نیست، بلکه درباره مسیر بنیادین این فناوری است.
گام بعدی شما
- بررسی گزارش‌های نظارتی کاخ سفید درباره جنبش «باقیماندگی مؤثر» (Effective Altruism) برای درک سیاست‌های آینده.
- مطالعه مستندات ایمنی آنتروپیک (Anthropic) برای مقایسه رویکرد آن‌ها با دیپ‌مایند.
- دنبال کردن بحث‌های مربوط به «تسلیم شناختی» در مقالات روان‌شناسی مدرن.
اما واکنش دولت‌ها به این هشدارها می‌تواند مسیر توسعه سخت‌افزاری را تغییر دهد؛ به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو