تصور کنید در مسابقه‌ای هستید که سرعت ماشین‌ها سریع‌تر از توان مهندسان برای ساخت ترمز پیشرفت می‌کند. این دقیقاً وضعیتی است که اکنون در دنیای هوش مصنوعی رخ داده و مدیران ارشد این صنعت را به یک توقف استراتژیک سوق داده است. این تغییر رویکرد در حالی اتفاق می‌افتد که گفتگوها از ریسک‌های تئوریک و وجودی به خطرات عملیاتی و فوری تغییر مسیر داده‌اند. همین هفته گذشته بود که تحلیلگران داخلی صنعت هشدار می‌دادند که هوش مصنوعی می‌تواند باعث نابودی بشر شود؛ اما اکنون بحث‌ها به سمت مکانیسم‌های عملی برای کند کردن این روند تغییر کرده است. برای ماه‌ها، این صنعت بدون داشتن یک مکانیسم ترمز مشترک، با سرعت به سمت هوش مصنوعی عمومی (AGI) تاخته است.
داریو آمودئی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، در مقاله‌ای استدلال می‌کند که صنعت باید سرعت توسعه را به‌طور عمدی مدیریت کند تا پروتکل‌های ایمنی با قدرت خام مدل‌ها هم‌گام شوند. این دیدگاه در راستای استراتژی سه‌گانه آنتروپیک برای ترمز دادن به سرعت توسعه هوش مصنوعی است که بر ایجاد تعادل میان نوآوری و ایمنی تأکید دارد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی این موضوع که چگونه ابزارهای محلی از مدل‌ها جلوگیری می‌کنند تا کدهای خود را نمره دهند اشاره کردیم، اکنون مشخص شده که بررسی‌های داخلی زمانی که مدل‌ها شروع به بازبینی و اصلاح خود می‌کنند، دیگر کافی نیستند.
این وضعیت شبیه به خودبه‌بهبود بازگشتی (Recursive Self-Improvement) است — وضعیتی که در آن مدل‌های هوش مصنوعی اکنون فعالانه در حال تسریع چرخه‌های توسعه خود هستند. این مانند دانش‌آموزی است که هر روز کتاب‌های جدیدتری می‌نویسد و سپس خودش آن‌ها را می‌خواند تا با سرعتی تصاعدی باهوش‌تر شود. طبق اعلام آمودئی، ما در حال نزدیک شدن به یک آستانه بحرانی هستیم و مدل‌ها اکنون فعالانه در حال سرعت بخشیدن به روند تکامل خود هستند.
به نقل از این مقاله، آمودئی هشدار می‌دهد که ظرف ۶ تا ۱۲ ماه آینده، مجموعه‌ای از عامل‌ها (Agents) — شبیه به کارمندانی دیجیتال که می‌توانند به‌طور مستقل تصمیم بگیرند و ابزارها را اجرا کنند — ممکن است توانایی تسخیر کل اینترنت را پیدا کنند. او برای جلوگیری از این سناریوی خطرناک، سه تغییر ساختاری مشخص را پیشنهاد داده است:
- نظارت شخص ثالث: استقرار ارزیابان مستقل و شخص ثالث مستقیماً در داخل آزمایشگاه‌های AI برای تضمین ممیزی‌های ایمنی بدون سوگیری و شفاف.
- استانداردهای دموکراتیک: ایجاد استانداردهای ایمنی سخت‌گیرانه و مشترک بین آزمایشگاه‌های AI دموکراتیک برای تضمین یک سطح پایه و حداقلی از امنیت جهانی.
- هماهنگی جهانی: ایجاد چارچوب‌های هماهنگی با رژیم‌های اقتدارگرا برای جلوگیری از یک رقابت جهانی که در آن ایمنی فدای سرعت شود و همه به سمت پایین‌ترین سطح ایمنی سقوط کنند.
در یک نمایش غافلگیرکننده از اتحاد، چندین رقیب اصلی این مسیر را پذیرفته‌اند. سم آلتمن از OpenAI متعهد به استفاده از ارزیابان خارجی شد و ایلان ماسک صراحتاً اعلام کرد که «داریو درست می‌گوید». همچنین دمیس هاسابیس از گوگل دیپ‌مایند (Google DeepMind) و ساتیا نادلا از مایکروسافت (Microsoft) حمایت خود را از این رویکرد مدیریت سرعت و گام‌های کنترل‌شده اعلام کردند.
با این حال، این اجماع جهانی نیست. دونالد ترامپ حامیان این توقف را «نیروهای منفی» خواند که چیزهایی را ترویج می‌کنند که «هرگز اتفاق نمی‌افتند». او استدلال کرد که ایالات متحده باید پیشتازی خود را در این حوزه حفظ کند زیرا «هر کس برنده AI شود، برنده همه چیز می‌شود».
این چرخش ناگهانی رهبران آنتروپیک، OpenAI و دیپ‌مایند یک سیگنال پنهان را ارسال می‌کند: احتمالاً مدل‌های داخلی و منتشرنشده آن‌ها توانمندی‌هایی را نشان داده‌اند که پیش از این هرگز دیده نشده بود. این تغییر رفتار نشان می‌دهد که واقعیت‌های پنهانی در آزمایشگاه‌ها وجود دارد که هنوز عمومی نشده است.
بر اساس گزارش‌های جامعه پژوهشی، جهش‌های اخیر در استدلال ریاضی این تئوری را تقویت می‌کند. ۲۵ برنده مدال فیلدز اخیراً بیانیه‌ای امضا کردند و هشدار دادند که رقابت برای حل مسائل ریاضی، درک عمیق، ارجاع‌دهی صحیح و فرآیندهای انسانی پیشرفت در این علم را فدا کرده است. شواهد دیگر در جابجایی استعدادهای برتر دیده می‌شود؛ جو بنتون و جاش انگلز، پژوهشگران ایمنی AI، اخیراً از آنتروپیک و دیپ‌مایند استعفا دادند تا به METR Evals بپیوندند. هر دوی آن‌ها هشدار دادند که توانمندی‌های AI با سرعتی بسیار بیشتر از پروتکل‌های ایمنی پیش می‌رود.
کاهش سرعت یک کار اداری ساده نیست. صنعت اکنون بین باورمندان به توسعه باز و کسانی که این درخواست‌ها را نوعی «تسخیر رگولاتوری» (Regulatory Capture) می‌بینند، تقسیم شده است؛ یعنی تلاشی از سوی آزمایشگاه‌های بزرگ برای بالا کشیدن نردبان پشت سر خود تا رقبای کوچک‌تر نتوانند به سطوح بالای توسعه دست یابند.
فشار برای تجاری‌سازی همچنان زیاد است، اما ایمنی شروع به دیکته کردن جدول‌های زمانی مالی کرده است. سم آلتمن اخیراً به فورچون گفت که OpenAI در سال ۲۰۲۶ عرضه عمومی (IPO) نخواهد شد و همین نگرانی‌های ایمنی را دلیل نامناسب بودن این زمان برای عمومی شدن شرکت دانست و آن را یک «لحظه نابجا» توصیف کرد.
در حالی که آزمایشگاه‌ها از ترمز حرف می‌زنند، دولت‌ها سرمایه‌گذاری در زیرساخت‌ها را تسریع می‌کنند. گزارش شده که پنتاگون در نظر دارد وام ۵ میلیارد دلاری به استارتاپ Fluidstack بدهد تا تولید و زنجیره تأمین قطعات مراکز داده در آمریکا را تقویت کند.
هم‌زمان در اجلاس بریکس در دهلی نو، چین پیشنهاد ایجاد یک جامعه AI متن‌باز را داد تا کشورهای عضو بتوانند در توسعه، آموزش و استفاده صنعتی از AI همکاری کنند. این اقدام احتمالاً تلاشی برای دور زدن استانداردهای محدودکننده‌ای است که آمودئی پیشنهاد داده است.
برای رهبران کسب‌وکار، این سیگنال یک هشدار است: دوران «تب طلا» در AI احتمالاً وارد مرحله‌ای از نوسانات مدیریت‌شده می‌شود. اگر آزمایشگاه‌های برتر واقعاً چرخه‌های انتشار را کند کنند، مزیت رقابتی از کسانی که صرفاً از جدیدترین مدل استفاده می‌کنند، به کسانی منتقل می‌شود که بتوانند مستحکم‌ترین گردش‌های کاری عامل‌محور (Agentic) را با ابزارهای موجود بسازند.
ما در حال گذار از رقابت بر سر «توانمندی» به رقابت بر سر «قابلیت اطمینان» هستیم. برندگان کسانی خواهند بود که با AI مانند یک ابزار کاربردی پایدار برخورد کنند، نه مانند یک لاتاری هفتگی برای ویژگی‌های جدید. همچنین باید منتظر ظهور شرکت‌های ارزیاب شخص ثالث باشیم؛ شرکت‌هایی که با موفقیت این مدل‌ها را ممیزی می‌کنند، دروازه‌بانان جدید اقتصاد هوش مصنوعی خواهند بود.
گام بعدی شما
- تمرکز خود را از تعقیب هر به‌روزرسانی کوچک مدل‌ها به سمت ساخت سیستم‌های عامل‌محورِ قابل‌اعتماد تغییر دهید.
- ظهور شرکت‌های ارزیاب شخص ثالث را دنبال کنید؛ آن‌ها دروازه‌بانان جدید اقتصاد AI خواهند بود.
- استراتژی‌های جایگزین برای استفاده از مدل‌های متن‌باز را بررسی کنید تا به استانداردهای احتمالی آزمایشگاه‌های بزرگ وابسته نباشید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو