هشدار ۴۲ ریاضی‌دان: ریسک وجودی هوش مصنوعی واقعی و فوری است

تصور کنید ابزاری ساخته شود که سخت‌ترین معماهای ذهنی بشریت را در چند هفته حل کند؛ این دیگر یک سناریوی علمی-تخیلی نیست، بلکه واقعیت فعلی است. اگر فکر می‌کنید هوش مصنوعی هنوز در حد یک چت‌بات پیشرفته است، باید بدانید که مرز بین توانایی انسانی و ماشین در حال فروپاشی است.

به نقل از نامه‌ای باز که در ۱۸ سپتامبر ۲۰۲۶ برای رئیس انجمن سلطنتی (Royal Society) ارسال شد، ۴۲ ریاضی‌دان پیشرو، از جمله مارتین هرر (Martin Hairer)، پیتر شولتزه (Peter Scholze) و وندلین ورنر (Wendelin Werner)، هشدار دادند که هوش مصنوعی پیشرفته یک ریسک وجودی واقعی برای بشریت است. این گروه از آکادمی علوم بریتانیا خواستند تا فوراً دولت و رسانه‌ها را در این باره آگاه کند. این نگرانی‌ها با یافته‌های آماری همسو است، چرا که پژوهش‌های اخیر نشان می‌دهد حدود ۱۸٪ از متخصصان این حوزه احتمال انقراض بشر را پیش‌بینی می‌کنند.

این هشدار در حالی صادر می‌شود که مدل‌ها از چت‌بات‌های ساده به ابزارهایی تبدیل شده‌اند که قادر به حل پیچیده‌ترین مسائل فکری جهان هستند. برای مدیران کسب‌وکار، موضوع تنها کنجکاوی آکادمیک نیست، بلکه سرعت مقیاس‌پذیری قابلیت‌های تخصصی است که باید بررسی شود. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بنیادی اشاره کردیم، سرعت رشد این ابزارها اغلب از توانایی ما برای ایجاد حفاظ‌های ایمنی پیشی می‌گیرد. نکته کلیدی این است که هیچ‌یک از امضاکنندگان این نامه وابسته به شرکت‌های هوش مصنوعی نیستند و دیدگاهی مستقل ارائه می‌دهند. این استقلال در برابر شرکت‌های بزرگ، در حالی اهمیت می‌یابد که برخی از پژوهشگران ارشد گوگل و آنتروپیک پیش‌تر به دلیل ترس از خودبه‌سازی هوش مصنوعی استعفا داده‌اند.

بر اساس مستندات این نامه، مدل‌های OpenAI و Anthropic پیش از این توانسته‌اند مسائل پژوهشی باز را در بازه‌ای سه ماهه حل کنند، که شامل یکی از هفت مسئله هزاره (Millennium Problems) نیز می‌شود. این ریاضی‌دانان بر چند نکته حیاتی تأکید دارند:

• مدل‌های فعلی در بسیاری از حوزه‌ها در سطح برترین ریاضی‌دانان انسانی عمل می‌کنند.
• احتمال زیادی وجود دارد که این مدل‌ها در بازه زمانی کوتاهی به توانایی‌های فرا-انسانی دست یابند.
• نرخ رشد قابلیت‌ها در ریاضیات احتمالاً بازتابی از رشد در حوزه‌های پرخطر است.

حوزه‌های پرخطر

این گروه هشدار می‌دهند که همان شتابی که در ریاضیات دیده می‌شود، در امنیت سایبری، کنترل سلاح‌های خودکار، توسعه عوامل شیمیایی و بیولوژیک و تولید اطلاعات گمراه‌کننده هدفمند نیز رخ خواهد داد. آن‌ها استدلال می‌کنند تخمیناتی که ریسک وجودی را بالای ۱۰٪ می‌دانند، نباید به عنوان «هایپ» یا تبلیغات رد شوند.

این تغییر نشان می‌دهد پنجره زمانی برای ایجاد حفاظ‌ها (Guardrails) — شبیه به نرده‌های ایمنی در لبه یک پرتگاه که مانع سقوط می‌شوند — سریع‌تر از آنچه سیاست‌گذاران تصور می‌کنند در حال بسته شدن است. اگر منحنی توانایی‌ها نمایی باقی بماند، گذار به هوش مصنوعی فرا-انسانی در بخش‌های خطرناک ممکن است پیش از آنکه مردم تهدید را تشخیص دهند، رخ دهد.

گام بعدی شما

• رصد کنید آیا در ماه‌های آینده مسئله دوم از مسائل هزاره حل می‌شود یا خیر؛ این یک محک (Benchmark) واقعی برای گذار به سطح فرا-انسانی خواهد بود.
• استراتژی‌های امنیت سایبری سازمان خود را بر اساس فرض «دسترسی مهاجم به ابزارهای استدلالی پیشرفته» بازنگری کنید.
• گزارش‌های مستقل از پیشرفت‌های مدل‌های استدلالی را دنبال کنید تا از سرعت واقعی رشد فاصله نگیرید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.