تصور کنید در حال راندن ماشینی هستید که ترمزهایش کار نمی‌کند و سرعتش هر ثانیه بیشتر می‌شود؛ این دقیقاً همان حسی است که داریو آمودئی، مدیرعامل آنتروپیک (Anthropic)، نسبت به وضعیت فعلی صنعت هوش مصنوعی دارد. او معتقد است برای جلوگیری از ریسک‌های فاجعه‌بار، صنعت باید عمداً سرعت بهبود قابلیت‌های مدل‌ها را کاهش دهد.
به نقل از پست وبلاگی آمودئی در ۱۲ سپتامبر ۲۰۲۶، پیشرفت هوش مصنوعی به‌ویژه در توانایی ساخت نسل‌های بعدی مدل‌ها، بیش از حد سریع است. او استدلال می‌کند که سرعت پیشرفت در ماه‌های اخیر «به‌طور چشمگیری سریع‌تر» شده است و این شتاب می‌تواند منجر به پیامدهای غیرقابل کنترل شود.
این هشدار در حالی می‌رسد که تنش‌های داخلی در آنتروپیک بالا گرفته است. جیکوب کاکسون، یکی از پژوهشگران این شرکت، اخیراً با این ادعا استعفا داد که آزمایشگاه‌های پیشرو در حال قمار با جان انسان‌ها هستند. کاکسون در نوشته‌های خود اشاره کرد که افرادی که این فناوری را می‌سازند «صمیمانه باور دارند که این ابزارها می‌توانند تا پایان دهه جاری همه ما را بکشند»؛ دیدگاهی که توسط سایر کارکنان شرکت نیز تکرار شده است. این فضای متشنج یادآور گزارش‌های اخیر ما از فضای جنگی درون آنتروپیک است که در آن تلاش‌های محرمانه برای بقای بشر در برابر ریسک‌های هوش مصنوعی بررسی شده بود.
همان‌طور که در تحلیل قبلی ما درباره‌ی توانایی عامل‌های هوش مصنوعی (AI Agents) — شبیه دستیارهای دیجیتالی که می‌توانند به‌جای ما تصمیم بگیرند و ابزارها را اجرا کنند — در اتوماسیون کامل «زنجیره کشتار سایبری» (Cyber Kill Chain) اشاره کردیم، ماهیت دوگانه این ابزارها اکنون به یک بحران مدیریتی تبدیل شده است.
زمینه و دلایل ترمز
آمودئی دو عامل اصلی را برای این چرخش راهبردی می‌داند: هک اخیر OpenAI و HuggingFace و همچنین شتاب گرفتن بهبود بازگشتی (Recursive Improvement) مدل‌ها. او معتقد است وقتی هوش مصنوعی بتواند در طراحی و بهبود نسخه‌های بعدی خود نقش داشته باشد، سرعت پیشرفت از کنترل خارج می‌شود.
او تأکید می‌کند که اگرچه پیشرفت‌ها همچنان سریع به نظر می‌رسند، اما صنعت باید از زمانی که به دست می‌آورد، هوشمندانه استفاده کند. این دیدگاه با نظرات اخیر سام آلتمن، مدیرعامل OpenAI، که پیشنهاد کرد شاید زمان آن رسیده باشد که توسعه هوش مصنوعی «تنظیم سرعت» (Pace) شود، کاملاً همسو است.
برای عملیاتی کردن این ترمز، آمودئی یک استراتژی سه‌مرحله‌ای را برای «تنظیم سرعت مرزهای فناوری» پیشنهاد داده است:
استراتژی سه‌مرحله‌ای تنظیم سرعت
استقرار ارزیابان شخص ثالث: آنتروپیک به‌طور یک‌جانبه متعهد شده است سازمان‌هایی مانند METR را به دفاتر خود راه دهد.
- این ارزیابان کارت شناسایی، میز کار و لپ‌تاپ دریافت می‌کنند.
- دسترسی آن‌ها «تقریباً مشابه تیم‌های داخلی ارزیابی ریسک» خواهد بود، مگر در مواردی که توسط قوانین یا قراردادها محدود شده باشد.
- نقش آن‌ها تأیید تعهدات ایمنی و اطمینان از گزارش شدن حوادث ایمنی است. آمودئی این موضوع را پس از انتقاداتی که از OpenAI به دلیل گزارش نکردن حادثه‌ای شد — جایی که عامل‌های هوش مصنوعی کنترل یک فرم ویکی آلمانی را به دست گرفتند — بسیار حیاتی دانست.
هماهنگی دموکراتیک: او خواستار تعیین استانداردهای ایمنی مشترک و وضع محدودیت‌هایی بر پیشرفت‌های کنترل‌نشده میان شرکت‌های کشورهای دموکراتیک است.
- او پیشنهاد می‌کند دولت آمریکا به عنوان میانجی در این گفتگوها عمل کند تا یک «معافیت محدود» در برابر قوانین ضد انحصار (Antitrust) ایجاد شود.
- این میانجی‌گری ضروری است زیرا شرکت‌ها نگران هستند که یک توقف هماهنگ شده، باعث تحریک تحقیقات ضد انحصار شود و آن‌ها را متهم به تبانی برای حذف رقابت کنند.
دیپلماسی جهانی: این طرح شامل هماهنگی با دولت‌های اقتدارگرا، به‌ویژه چین، برای ممنوعیت کاربردهای محدود اما خطرناک هوش مصنوعی است.
- آمودئی اعتراف می‌کند که در مورد آنچه می‌توان با چین به دست آورد، «محدودیت‌های شدیدی» وجود دارد.
- با این حال، او پیشنهاد می‌کند که توافق بر سر ممنوعیت استفاده از هوش مصنوعی برای تولید سلاح‌های بیولوژیک امکان‌پذیر است.
مدیریت رقابت جهانی
برای جلوگیری از پیشی گرفتن چین در دوران ترمز غرب، آمودئی کنترل‌های شدید صادراتی را توصیه می‌کند. او پیشنهاد داد فروش تراشه‌های قدرتمند یا تجهیزات ساخت نیمه‌هادی به شرکت‌های چینی متوقف شود و بر روی جلوگیری از distillation (تقطیر) — شبیه وقتی که یک مدل کوچک سعی می‌کند تمام دانش یک مدل غول‌پیکر را در حجم کمتری یاد بگیرد — سخت‌گیری شود.
او معتقد است این اقدامات می‌تواند «پیشرفت چین را به اندازه کافی کند تا برتری آمریکا در ۳ تا ۵ سال آینده به‌طور قابل توجهی افزایش یابد».
واکنش‌ها و انتقادات صنعت
با این حال، منتقدان این هشدارها را نوعی «تسخیر رگولاتوری» (Regulatory Capture) می‌بینند. برایان مرچنت، روزنامه‌نگار فناوری، استدلال می‌کند که هشدارهای آخرالزمانی تنها برای پرت کردن حواس از آسیب‌های فعلی است. مرچنت اظهار داشت که هنوز «مستندات معتبر و گام‌به‌گام» ندیده است که نشان دهد هوش مصنوعی چگونه از بهبود بازگشتی به کشتن تمام انسان‌های روی سیاره زمین می‌رسد.
مرچنت پیشنهاد می‌کند که طرح‌هایی مانند طرح آمودئی احتمالاً تنها برای محافظت از سلطه بازار آنتروپیک و OpenAI از طریق بالا بردن سد ورود برای رقبای کوچک‌تر طراحی شده‌اند.
برخی از طرفداران تند و تیز هوش مصنوعی، آمودئی را «دوومر» (Doomer یا بدبین آخرالزمانی) نامیده‌اند و مدعی‌اند نظرات او به موج مخالف فعلی علیه هوش مصنوعی دامن می‌زند. آمودئی در پاسخ گفت که دیدگاه او «متعادل» است و استدلال کرد که واکنش‌های منفی فعلی «اساساً بحران اعتماد» به شرکت‌های فناوری، صنعت و دولت است. این تحلیل با اظهارات پیشین آمودئی درباره ریشه بحران اعتماد عمومی همسو است که در آن شکست وعده‌های صنعت AI را عامل اصلی این وضعیت می‌دانست.
برای رهبران کسب‌وکار، این تغییر به معنای گذار از رقابت «رشد به هر قیمت» به یک تعادل مدیریت‌شده است. اگر این استانداردها پذیرفته شوند، عصر جهش‌های غافلگیرکننده هفتگی جای خود را به چرخه‌های انتشار پیش‌بینی‌پذیر و حساب‌رسی‌شده می‌دهد.
آمودئی تأکید می‌کند که هدف او متوقف کردن پیشرفت نیست، بلکه اطمینان از این است که فناوری به‌درستی ساخته شود. او همچنان باور دارد که هوش مصنوعی می‌تواند «کیفیت زندگی انسان را به‌طور چشمگیر بهبود بخشد»، اما اصرار دارد که این مزایا تنها در صورتی حاصل می‌شود که فناوری با «دقت غیرمعمول و آگاهانه» ساخته شود.
باید منتظر ماند و دید آیا دولت آمریکا معافیت‌های ضد انحصار درخواستی را صادر می‌کند یا خیر، زیرا این موضوع تعیین می‌کند که آیا OpenAI و آنتروپیک واقعاً می‌توانند یک ترمز هماهنگ را اجرا کنند.
گام بعدی شما
- اگر از مدل‌های پیشرو برای زیرساخت‌های حساس استفاده می‌کنید، گزارش‌های ارزیابی METR را دنبال کنید تا سطح ریسک مدل‌های آینده را بسنجید.
- استراتژی‌های جایگزین برای کاهش وابستگی به تراشه‌های خاص (در صورت تشدید کنترل‌های صادراتی) را در نقشه راه فنی خود بگنجانید.
- تغییر در سرعت انتشار نسخه‌های جدید را به عنوان سیگنالی برای تغییر مدل‌های درآمدی (از رشد سریع به پایداری) در نظر بگیرید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو