افشای ممنوعیت بحث درباره خطر انقراض بشر در دیپ‌مایند

تصور کنید در پیشروترین آزمایشگاه هوش مصنوعی جهان کار کنید، اما دستور داشته باشید هرگونه هشدار درباره پایان تمدن بشری را در ملاءعام انکار کنید. این واقعیت تلخی است که حالا از درون دیپ‌مایند به بیرون درز کرده است.

ویشال مانی (Vishal Maini)، مدیر سابق ارتباطات و سیاست‌گذاری در دیپ‌مایند (DeepMind)، مدعی شده است که این سازمان ممنوعیتی سخت‌گیرانه برای هرگونه بحث عمومی درباره انقراض انسان‌ها توسط هوش مصنوعی اعمال می‌کرد. به نقل از گزارش ۱۰ سپتامبر ۲۰۲۶ وب‌سایت the-decoder.com، این سیاست بین سال‌های ۲۰۱۸ تا ۲۰۲۲ بر تمام سطوح سازمانی حاکم بود.

این افشاگری در حالی رخ می‌دهد که صنعت اکنون با چالش همراستاسازی (Alignment) — که شبیه تنظیم کردن یک قطب‌نمای دقیق است تا مطمئن شویم اهداف ماشین با ارزش‌های انسانی یکی است — دست‌وپنجه نرم می‌کند. همان‌طور که در تحلیل‌های قبلی ما درباره امنیت مدل‌های بنیادی اشاره کردیم، شکاف عمیقی میان اضطراب‌های فنی در اتاق‌های بسته و روایت‌های تبلیغاتی در فضای عمومی وجود دارد. این تمرکز بر کنترل روایت‌ها توسط غول‌های فناوری، دقیقاً همان دلیلی است که برخی از پیشگامان این حوزه بر ضرورت مدل‌های وزن‌باز برای مقابله با انحصار شرکت‌های بزرگ تأکید می‌کنند تا شفافیت جایگزین سیاست‌های بسته شود.

طبق گفته‌های مانی، محققان برای مدیریت بحث‌های مربوط به ریسک انقراض، سه تاکتیک مشخص را آموزش می‌دیدند:

• رد کردن ریسک‌ها به عنوان «هراس‌افکنی» یا Alarmism.
• مقایسه سناریوهای خطر با فیلم‌های تخیلی مثل ترمیناتور برای کوچک جلوه دادن موضوع.
• تغییر مسیر گفتگو به سمت کاربردهای مثبت در حوزه سلامت یا تغییرات اقلیمی.

با این حال، در فضای داخلی تیم‌ها می‌دانستند که مشکل همراستاسازی حل نشده و تعداد افرادی که برای رفع این نقص اختصاص یافته‌اند، بسیار کم است. دیپ‌مایند بعدها این قوانین را تعدیل کرد و اجازه داد محتواهایی با «زبان دوستانه» یا قاب‌بندی مثبت منتشر شوند؛ به طوری که ریسک‌های فاجعه‌بار در لایه‌هایی از واژگان نرم‌تر پیچیده شوند.

این چرخش نشان می‌دهد که شواهد مربوط به ریسک‌های فاجعه‌بار اکنون چنان زیاد شده‌اند که حتی محافظه‌کارترین آزمایشگاه‌ها هم نمی‌توانند آن‌ها را نادیده بگیرند. برای یک مدیر کسب‌وکار، این الگو تکراری است: تضاد میان فشار برای استقرار سریع محصول و پذیرش خاموشِ ناپایداری‌های سیستمی.

با افزایش صدای محققانی که از مدل‌های ناامن می‌گویند، صنعت با بحران شفافیت روبروست.

گام بعدی شما

• گزارش‌های نظارتی آینده را برای یافتن تعداد مدل‌های «ناامن» در چرخه تولید دنبال کنید.
• در ارزیابی ابزارهای AI، تفاوت میان «تضمین‌های تبلیغاتی» و «مستندات فنی ایمنی» را بررسی کنید.
• متون مربوط به ایمنی هوش مصنوعی را با نگاهی انتقادی بخوانید تا متوجه «زبان دوستانه» برای پنهان کردن ریسک‌ها شوید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.