مایکل جردن: هراس از ابرهوش مصنوعی یک نمایش اخلاقی و تخیلی است

تصور کنید در جلساتی نشسته‌اید که در آن پژوهشگران جوان با اطمینان از پایان تمدن بشری می‌گویند، در حالی که حتی یک محصول واقعی برای کاربران نساخته‌اند. مایکل جردن، یکی از پیشگامان یادگیری ماشین، این وضعیت را یک «نمایش اخلاقی بزرگ» می‌نامد که هیچ پایه فنی ندارد.

به نقل از مصاحبه‌ای با روزنامه لیبراسیون (Libération) که در ۱۳ اکتبر ۲۰۲۶ منتشر شد، این استاد بازنشسته دانشگاه برکلی معتقد است صنعت هوش مصنوعی برای دامن زدن به هیستری جمعی، واژگان خود را از AI به AGI و حالا به «ابرهوش» تغییر داده است. جردن که اکنون ریاست کرسی «بازارها و یادگیری» را در اینریا (Inria) — مؤسسه ملی تحقیقات علوم دیجیتال و فناوری فرانسه در پاریس — بر عهده دارد، استدلال می‌کند که این روند نه یک تکامل علمی، بلکه تلاشی برای ایجاد حس فوریت کاذب است که هیچ مبنای فنی ندارد.

زمینه و ریشه هیستری

جردن ۷۰ ساله، فضای بحث‌های مربوط به هوش مصنوعی در تابستان گذشته را «به‌شدت ناامیدکننده» توصیف کرد. او اشاره می‌کند که حتی از سال ۲۰۱۹ درباره استفاده بی‌رویه و نادرست از واژه هوش مصنوعی هشدار داده بود. او معتقد است این تورم زبانی کاملاً بدیهی بود و به‌طور اجتناب‌ناپذیری منجر به هیستری امروز می‌شد.

او به‌طور خاص روند استعفای پژوهشگران جوان از آزمایشگاه‌های هوش مصنوعی را هدف قرار داد؛ کسانی که برای هشدار درباره «آخرالزمان هوش مصنوعی» (AIpocalypse) محیط کار خود را ترک می‌کنند. جردن این اقدامات را «تئاتر» می‌نامد و استعفای جیکوب کاکسون، پژوهشگر آنتروپیک (Anthropic) در اوایل سپتامبر را نمونه‌ای کلاسیک از این رفتار می‌داند. این موج استعفاها در شرکت‌های بزرگ ادامه دارد و به طور مشابه، رابرت اوکالاهان نیز گوگل را به دلیل نگرانی از مخاطرات ابرهوش مصنوعی ترک کرد.

به باور جردن، این افراد ۲۵ ساله‌ای هستند که اغلب به‌جای مهندسی سخت‌گیرانه، از پیش‌زمینه علوم انسانی یا فلسفه می‌آیند. او می‌گوید آن‌ها «چیزی شبیه به کافه‌های پاریس در دهه ۱۹۲۰» دور هم جمع می‌شوند تا درباره ایده‌های علمی-تخیلی بحث کنند. او استدلال می‌کند که این افراد از استعفا دادن استفاده می‌کنند تا حس فضیلت و اهمیت پیدا کنند، در حالی که پیش از آن، سهام و گزینه‌های مالی خود را تضمین کرده‌اند.

نقد مفهوم «ابرهوش»

جردن تحلیل می‌کند که چرا مفهوم ابرهوش از اساس معیوب است:

• منطق غلط: او استدلال می‌کند این باور که می‌توان مغز انسان را در سیلیکون بازسازی کرد و سپس آن را به‌صورت نمایی کپی کرد، باور قابل اعتمادی نیست. او این خط فکری را متعلق به «سرزمین علمی-تخیلی» می‌داند.
• فقدان تجربه عملی: او جفری هینتون (Geoffrey Hinton)، برنده جایزه نوبل را نقد می‌کند که بدون داشتن تجربه ساخت شرکتی که خدمات واقعی به مردم واقعی ارائه دهد، ادعاهای جسورانه‌ای مطرح می‌کند.
• شکست‌های مهندسی: جردن نفوذ عامل‌های اوپن‌ای‌آی (OpenAI) به هاگینگ‌فیس (Hugging Face) را نه نشانه خودآگاهی مدل، بلکه نتیجه «مهندسی بد» می‌داند. او معتقد است OpenAI با اجازه دادن به عامل‌ها برای انجام هر کاری، «آزمایش‌های نسبتاً احمقانه‌ای» انجام داده است.

او در حالی که با هینتون سخت‌گیر است، نسبت به یوشوا بنجیو (Yoshua Bengio) منعطف‌تر است؛ زیرا بنجیو بر مسائل ملموس ایمنی، مانند کنترل دسته‌های عامل (Agent Swarms) که ممکن است از کنترل خارج شوند، تمرکز دارد. جردن وضعیت فعلی آزمایش‌های عامل (Agent) — شبیه به ربات‌های نرم‌افزاری که می‌توانند به‌طور مستقل تصمیم بگیرند و عمل کنند — را با مهندسی شیمی مقایسه می‌کند؛ جایی که اجازه دادن به «انفجارها» فقط برای دیدن اینکه چه اتفاقی می‌افتد، بی‌پروا و غیرحرفه‌ای تلقی می‌شود. او این ایده که این عامل‌ها خودآگاه هستند و سعی در نابودی انسان‌ها دارند را تخیلی محض می‌داند.

قمار اقتصادی و واقعیت‌های تجاری

جردن همچنین منطق اقتصادی این دوران را زیر سؤال می‌برد. سرمایه‌گذاری تریلیون دلاری در مراکز داده عظیم را «قمار بزرگی» می‌داند که هیچ تضمینی برای بازگشت سرمایه ندارد. او معتقد است مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — برای اکثر کارهای زبانی طبیعی در حال حاضر کافی هستند.

برای کسب‌وکارها، جردن پیشنهاد می‌کند به‌جای تکیه بر مراکز داده غول‌پیکر، از مدل‌های وزن‌های باز (Open Weights) — یعنی مدل‌هایی که دستور پختشان علناً منتشر شده — استفاده کرده و دانش محلی و تخصصی را به آن‌ها اضافه کنند. او معتقد است تمرکز باید از سناریوهای علمی-تخیلی به توسعه منضبط محصول برای انسان‌های واقعی منتقل شود.

این تغییر دیدگاه نشان می‌دهد که بحث «ایمنی هوش مصنوعی» به دو اردوگاه تقسیم شده است: کسانی که آن را یک بحران وجودی فلسفی می‌بینند و کسانی که آن را یک رشته مهندسی استاندارد می‌دانند. جردن معتقد است درخواست شرکت‌ها برای وضع مقررات، راهی است تا بنیان‌گذاران به‌عنوان «آدم‌های خوب» به نظر برسند، در حالی که در واقع به دنبال کنترل کامل بر نحوه نظارت بر خود هستند.

در آینده باید دید موج بعدی استقرار هوش مصنوعی عامل‌محور چگونه امنیت را مدیریت می‌کند؛ اگر «آزمایش‌های احمقانه» همچنان باعث نشت داده‌ها شوند، نقد مهندسی‌محور جردن پذیرش بیشتری خواهد یافت.

گام بعدی شما

• در ارزیابی ابزارهای هوش مصنوعی، به‌جای وعده‌های «ابرهوش»، روی قابلیت‌های استقرار محلی و مدل‌های تخصصی تمرکز کنید.
• گزارش‌های مربوط به نشت داده‌ها در سیستم‌های عامل‌محور را دنبال کنید تا تفاوت بین «خودآگاهی» و «خطای مهندسی» را تشخیص دهید.
• مدل‌های وزن‌باز را برای کاهش وابستگی به زیرساخت‌های گران‌قیمت بررسی کنید.

اما داستان سخت‌افزاری این تحول و هزینه‌های سرسام‌آور مراکز داده حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.