پژوهشگران هوش مصنوعی ذهنیت روز قیامتِ برنامه‌ریزان هسته‌ای را تکرار می‌کنند

پژوهشگرانِ لبه‌ی هوش مصنوعی امروز، ذهنیتِ روز قیامتِ برنامه‌ریزانِ جنگ سرد را زنده کرده‌اند. جیم نیلسن این موازی‌سازی را پس از مطالعه‌ی خاطرات دانیل السبرگ از دوران شکاف موشکیِ موسسه RAND ترسیم می‌کند.

در دهه‌ی ۱۹۶۰، تحلیل‌گرانِ RAND معتقد بودند تنها آن‌ها می‌توانند هولوکاست هسته‌ای را متوقف کنند — مثل تیمی که فکر می‌کند تنها آن‌ها می‌توانند آتشی را که کل شهر را می‌سوزاند، با یک شانه‌ی آب خاموش کنند. السبرگ در کتاب «ماشین روز قیامت» (The Doomsday Machine) می‌نویسد جوان‌ترین کارکنان طرح‌های بومیان را رد می‌کردند، قانع که زنده نمانند تا بازنشستگی بگیرند. نیلسن همان پویایی را در گفتمان امنیتیِ هوش مصنوعی امروز می‌بیند. همان‌طور که در تحلیل قبلی ما درباره‌ی فرهنگ مختبرهای پیشرو اشاره کردیم، این ذهنیت مرز بین مأموریت و خودفروشی را محو می‌کند.

جزئیاتِ کلیدی که نیلسن برجسته می‌کند:

• السبرگ (Daniel Ellsberg) و آلان انتوون (Alain Enthoven) در بیست و چند سالگی، از طرح بومیانِ رند (RAND) صرف‌نظر کردند — «بار دانش» (burden of knowledge) را با همکاران تقسیم می‌کردند.
• گزارش‌ها حاکی است برخی پژوهشگران آنتropic (Anthropic) سیگار می‌کشند تا ایمانشان را به اینکه هوش مصنوعی زاینده (Generative AI) اول سرطان را درمان می‌کند، نشان دهند.
• نیلسن به طنز می‌گوید آنتropic ممکن است مزایای بازنشستگی را لغو کند تا «درآمد جهانی بالا» (universal high income) را ثابت کند.
• السبرگ از «حس برادری» (sense of brotherhood) و «علت فرامرزی» (transcendent cause) در میان درونیان RAND نام می‌برد؛ مختبرهای امروز هوش مصنوعی زاینده همین واژگان مأموریت و بینش اختصاصی را تکرار می‌کنند.

این الگو یک تله فرهنگی است. وقتی نخبگان فنی باور کنند گمانه‌ی وجودی را در دست دارند، برنامه‌ریزی زندگی عادی به خیانت به مأموریت تبدیل می‌شود. این ذهنیت فرهنگ کارِ افراطی را توجیه می‌کند و مخالفان را به جهالت منتسب می‌سازد — و به راحتی با کاهش هزینه‌های شرکتی هم‌سو می‌شود. جزئیات بازنشستگی نشان‌دهنده است: السبرگ و انتوون در اواخر بیست سالگی بودند؛ پژوهشگران امروز هوش مصنوعی نیز اغلب جوان هستند. انصراف از امنیت بلندمدت یا نشانِ اعتقاد صادقانه است یا تعهد نمایشی؛ هر دو فرهنگ استخدام و مختبر را شکل می‌دهند.

گام بعدی شما

• در استخدام‌ها بپرسید: آیا مزایای بازنشستگی کامل ارائه می‌شود یا «مأموریت» بهانه‌ی کاستن شده؟
• ردیابی کنید که رهبران مختبر چه زمانی بلاغه‌های ایدئولوژیک را به سیاست‌های رسمی تبدیل می‌کنند.
• با همکاران غیرفنی گفتگو کنید: آیا آن‌ها هم حس می‌کنند «تنها ما می‌فهمیم»؟

اما داستانِ سخت‌افزاریِ این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.