تصور کنید مهندسی که پیچیده‌ترین مدل‌های زبانی جهان را می‌سازد، شب‌ها به جای فکر کردن به کد، به نقشه‌ی زمین‌های دورافتاده در بیابان‌های آمریکا فکر می‌کند. این کابوسِ بیداری، حالا به یک استراتژی خرید ملک تبدیل شده است.
به گزارش وال استریت ژورنال در ۲۷ سپتامبر ۲۰۲۶، کارکنان قدیمی Anthropic در حال اجرای «برنامه‌های جایگزین فیزیکی» هستند. آن‌ها با خرید زمین‌های دور از شهر، پناهگاه‌هایی می‌سازند تا اگر هوش مصنوعی از کنترل خارج شد و نظم اجتماعی فروپاشید، راهی برای بقا داشته باشند.
این اضطراب برای بنیان‌گذاران این آزمایشگاه موضوع جدیدی نیست. همان‌طور که در تحلیل قبلی ما درباره‌ی بهینه‌سازی‌های Claude Opus 5.5 اشاره کردیم، فرهنگ داخلی این شرکت مدت‌هاست تحت تأثیر جنبش «باعث‌گرایی مؤثر» (Effective Altruism) است. کارکنان سابق از شام‌های کاری یاد می‌کنند که در آن سناریوهای شبیه به «پروژه منهتن» بررسی می‌شد؛ آینده‌ای که در آن مدل‌ها باید در تأسیسات دولتیِ ایزوله و ضد-مغناطیسی در دل کویرها ساخته شوند.
این طرز فکر از شبکه‌ای از «دوومرها» (Doomers) در منطقه خلیج سان‌فرانسیسکو می‌آید؛ افرادی که سال‌هاست احتمال وقوع حوادث پایان‌جهان را شبیه‌سازی می‌کنند. جزئیات این جریان عبارت است از:
- ریشه‌های فکری: تأثیر شدید الیزر یودکوفسکی که از اواسط دهه ۲۰۰۰ درباره‌ی AI کنترل‌نشده هشدار می‌داد.
- وسواس ریسک: این گروه پیش از ظهور AI، روی فجایعی مثل فوران ابرآتشفشان‌ها و برخورد سیارک‌ها متمرکز بودند.
- سرایت صنعتی: این اضطراب به جای‌های دیگر هم رسیده است؛ رابرت اوکالاهان، متخصص فنی در Google DeepMind، اخیراً با این استدلال استعفا داد که تلاش برای رسیدن به ابرهوش مصنوعی در آینده‌ای نزدیک، «ذاتاً غیرمسئولانه» است.
این وضعیت نشان می‌دهد بین مهندسانی که ابزار را می‌سازند و مدیرانی که آن را مقیاس می‌کنند، شکاف روانی عمیقی ایجاد شده است. در حالی که بخش تجاری روی کاهش هزینه‌های استنتاج (Inference) — یعنی همان لحظه‌ی تولید جواب توسط مدل، شبیه به پخت غذا پس از یادگیری دستور پخت — تمرکز دارد، معماران مدل‌ها با ساخته‌های خود به چشم تهدیدی وجودی نگاه می‌کنند.
گام بعدی شما
- بررسی گزارش‌های مربوط به «ایمنی هوش مصنوعی» (AI Safety) برای درک تفاوت بین ریسک‌های کوتاه‌مدت و وجودی.
- دنبال کردن استعفاهای احتمالی در لایه‌های فنی گوگل و آنتروپیک به عنوان سیگنالی از عدم اعتماد به حفاظ‌های فعلی.
- مطالعه درباره‌ی استانداردهای دولتی برای نظارت بر مدل‌های بنیادی.
اما این ترس‌ها تنها یک موضوع روان‌شناختی نیست؛ اثر این اضطراب بر سرعت توسعه مدل‌های بازمتن را در گزارش بعدی بررسی خواهیم کرد.
گفتگو