قمار نیک بوستروم روی انقراض؛ آیا جاودانگی بهای نابودی بشر را می‌ارزد؟

تصور کنید مرگ دیگر یک حکم قطعی نباشد، بلکه یک گزینه قابل حذف. اگر راهی برای جاودانگی وجود داشته باشد، آیا حاضرید ریسک نابودی کل گونه‌ی بشر را بپذیرید؟

نیک بوستروم (Nick Bostrom)، متفکری که زمانی با نظریه‌ی «بهینه‌ساز گیره کاغذ» به عنوان پدر بدبینی شناخته می‌شد، حالا تغییر مسیر داده است. او در مصاحبه‌ای با Wired در ۸ مه ۲۰۲۶، دیدگاه جدیدی را مطرح کرد که او آن را «خوش‌بینی مضطرب» می‌نامد. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ریسک‌های وجودی هوش مصنوعی اشاره کردیم، بحث‌ها معمولاً حول محور «بقا» می‌چرخید، اما بوستروم حالا بازی را عوض کرده است.

او در کتاب جدیدش با نام Deep Utopia، ایده‌ی «دنیای حل‌شده» را مطرح می‌کند. در این دنیا، هوش مصنوعی زاینده (Generative AI) — تشبیه روزمره: مثل دستیاری که تمام کارهای سخت دنیا را می‌گیرد تا ما فقط به فکر هنر و تفکر باشیم — تمام نیازهای مادی را تأمین می‌کند. طبق اعلام بوستروم، محورهای این آینده عبارتند از:

• بازنشستگی بزرگ: آینده‌ای که در آن AI چنان فراوانی ایجاد می‌کند که انسان‌ها از کار رها شده و زمان خود را صرف بازی، زیبایی‌شناسی و فعالیت‌های معنوی می‌کنند.
• رفاه ذهن‌های دیجیتال: او استدلال می‌کند که ذهن‌های دیجیتالی‌شده در نهایت باید جایگاه اخلاقی مشابه موجودات زنده داشته باشند و برخورد با آن‌ها صرفاً به عنوان «ابزار»، غلط است.
• چرخش در همراستاسازی: همراستاسازی (Alignment) — تشبیه روزمره: مثل تربیت سگی که نه فقط دستورات را اجرا کند، بلکه واقعاً دوست ما باشد — برای جلوگیری از سناریویی که در آن انسان‌ها به «حیوانات در مزارع صنعتی» تبدیل شوند.

این نگاه، مسئله‌ی AI را از یک «مشکل امنیتی» به یک «سرمایه‌گذاری پرریسک» تبدیل می‌کند. برای ما، این یعنی بزرگ‌ترین تهدید AI شاید نه از دست دادن شغل، بلکه از دست دادن «هدف زندگی» باشد.

اما این بحث‌های فلسفی، ریشه‌های عمیقی در معماری مدل‌های جدید دارد؛ در گزارش بعدی، اثر این دیدگاه بر توسعه‌ی مدل‌های استدلالی را بررسی می‌کنیم.

گام بعدی شما

• مطالعه‌ی مفاهیم کتاب Deep Utopia برای درک آینده‌ی پساکار.
• بررسی چارچوب‌های حقوقی «ذهن‌های دیجیتال» که توسط شرکت‌هایی مثل Anthropic دنبال می‌شود.
• تفکر درباره‌ی معنای «هدف» در دنیایی که نیاز به تلاش برای بقا ندارد.