پیشنهاد مدیرعامل آنتروپیک برای کاهش سرعت توسعه هوش مصنوعی جهت تضمین ایمنی

تصور کنید در حال راندن خودرویی با سرعت ۳۰۰ کیلومتر بر ساعت هستید، اما ترمزهای شما هنوز آزمایش نشده‌اند. این دقیقاً همان وضعیتی است که داریو آمودی، مدیرعامل آنتروپیک (Anthropic)، در مقاله‌ای مفصل در ۱۳ سپتامبر ۲۰۲۶ توصیف کرد: رقابت برای رسیدن به هوش مصنوعی عمومی (AGI) بالاخره به یک دیوار فلسفی برخورد کرده است. هشدار مرکزی او این است: یا سرعت توسعه مرزهای AI را تنظیم کنید، یا ریسک شکست‌های ایمنی فاجعه‌بار را بپذیرید. این دیدگاه در ادامه تحلیل‌های عمیق‌تری درباره دلایل درخواست مدیرعامل آنتروپیک برای ترمز در توسعه قابلیت‌های AI قرار دارد.

این فراخوان برای احتیاط در حالی مطرح می‌شود که شکاف میان توانمندی‌های مدل‌ها و حفاظ‌ها (Guardrails) — شبیه به نرده‌های ایمنی در لبه یک پرتگاه که مانع سقوط می‌شوند — به‌شدت عمیق شده است. برای یک مدیر کسب‌وکار، این موضوع دیگر بحث بنچمارک‌های فنی نیست، بلکه یک بیم‌نامه با ریسک بالا برای آینده اقتصاد دیجیتال است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، توازن میان سرعت و کنترل همواره نقطه ضعف آزمایشگاه‌های AI بوده است.

چارچوب تنظیم سرعت (Pacing Framework)

آمودی برای مدیریت این گذار حساس، یک چارچوب سه ستونی را پیشنهاد می‌دهد:

• ارزیابان شخص ثالث: استقرار حسابرسان مستقل برای تأیید تعهدات ایمنی و گزارش دقیق حوادث.
• هماهنگی دموکراتیک: ایجاد استانداردها و محدودیت‌های مشترک میان شرکت‌های پیشرو در حوزه AI در کشورهای دموکراتیک.
• دیپلماسی جهانی: هماهنگ کردن سرعت پیشرفت با دولت‌های اقتدارگرا، «تا جایی که این امر ممکن باشد».

این پیشنهادها بخشی از استراتژی سه‌گانه آنتروپیک برای ترمز دادن به سرعت توسعه هوش مصنوعی است که هدفش ایجاد تعادلی میان نوآوری و ایمنی است.

آمودی تصریح کرد که این «تنظیم سرعت» یا Pacing به معنای توقف آموزش مدل‌ها یا متوقف کردن پیشرفت فنی نیست. در عوض، هدف این است که شرکت‌ها زمان کافی برای همراستاسازی (Alignment) — یعنی تنظیم مدل به‌گونه‌ای که اهدافش با ارزش‌های انسانی یکی شود، شبیه به تربیت یک سگ برای اطاعت از دستورات صاحبش — و ایمن‌سازی مدل‌ها داشته باشند، در حالی که ارزیابان شخص ثالث این تلاش‌ها را تأیید می‌کنند.

شرکت آنتروپیک پیش از این به‌طور یک‌جانبه متعهد شده است که اولین گام، یعنی اجازه ورود به ارزیابان شخص ثالث را بردارد. سام آلتمن، مدیرعامل OpenAI، بلافاصله پس از انتشار این مقاله موافقت خود را اعلام کرد و اشاره کرد که تنظیم سرعت، موضوع اصلی بحث‌های داخلی در OpenAI است. آلتمن به‌ویژه از یک چارچوب فدرال برای الزامات ایمنی یکسان استقبال کرد و با تکرار نکته آمودی تأکید کرد که «تنظیم سرعت» به معنای «توقف» نیست، بلکه به معنای پیشروی با سرعتی کمتر از حداکثر توان فنی است.

ریسک‌ها و استانداردها

آلتمن به دو سناریوی خاص اشاره کرد که در آن‌ها پیشرفت AI «می‌تواند بسیار بد پیش برود»:

• از دست دادن «کنترل آینده به نفع هوش مصنوعی».
• رسیدن به جهانی که در آن قدرت به‌شدت متمرکز شده است.

او استدلال کرد که برای اجتناب از این نتایج، باید «در یک مسیر میانی باریک» حرکت کرد. آلتمن همچنین پیشنهاد داد که استانداردهای مشترک برای نظارت، شناسایی عدم همراستایی و ایمنی، منجر به نتایج بهتری خواهد شد و ابراز امیدواری کرد که سایر شرکت‌ها از رویکردهای OpenAI درس بگیرند.

دمیس هاسابیس، هم‌بنیان‌گذار و رئیس گوگل دیپ‌مایند (Google DeepMind)، نیز این رویکرد را برای عبور از این «لحظه بحرانی» درست دانست، هرچند معتقد است جزئیات اجرایی هنوز نیاز به بررسی و کار دارند. او در این راستا به چارچوبی برای ایجاد یک نهاد استانداردهای AI اشاره کرد که خود در ماه جولای منتشر کرده بود. حتی ایلان ماسک با بازنشر این مقاله و عبارت «داریو درست می‌گوید»، حمایت خود را نشان داد.

با این حال، واکنش سیاسی در واشینگتن به‌شدت متناقض و دوقطبی است.

مقاومت‌های سیاسی

در ۱۵ سپتامبر ۲۰۲۶، پرزیدنت دونالد ترامپ در شبکه Truth Social با رد این پیشنهاد مدعی شد که تنها حفاظ لازم، یک رئیس‌جمهور «قوی و باهوش (IQ بالا!)» است. ترامپ تلاش برای کاهش سرعت را یک «توطئه بیمارگونه» علیه هوش مصنوعی و مراکز داده دانست که تنها به نفع چین است و با تأکید بر رقابت جهانی نوشت: «هر کس در AI برنده شود، برنده است!»

ترامپ به‌طور مشخص آمودی را هدف قرار داد و مدعی شد مدیرعامل آنتروپیک «تظاهر به فرشته بودن» می‌کند. او همچنین ادعا کرد که دولت همین حالا هم «قدرت کیفری و نظارتی عظیمی» بر این شرکت‌ها دارد.

جی‌دی ونس، معاون رئیس‌جمهور، درخواست برای وضع مقررات را یک «اسب تروآ» توصیف کرد و این پرسش را مطرح کرد که چرا غول‌های فناوری اکنون «به نوعی به سراغ دولت می‌آیند و التماس می‌کنند که دولت آن‌ها را تنظیم کند؟» او یادآور شد که چینی‌ها در یک «رقابت بلندمدت AI» علیه ایالات متحده هستند.

به همین ترتیب، مایک جانسون، رئیس مجلس نمایندگان، در مصاحبه‌ای با CNN با جیک تپر در ۱۴ سپتامبر ۲۰۲۶ اعلام کرد که وضع یک moratorium (توقف موقت) غیرممکن است زیرا چین از ما «پیشی خواهد گرفت». او این مسئله را تضادی میان امنیت ملی و امنیت فوریِ تضمین ایمنی مدل‌ها دانست.

دیدگاه‌های واگرا

در حالی که برخی سیاستمداران مقررات را یک ریسک استراتژیک می‌بینند، برخی دیگر آن را یک ضرورت می‌دانند. سناتور برنی سندرز با دیدگاه پگی نونان، ستون‌نویس وال استریت ژورنال، که مقاله‌ای با عنوان «AI را به خاطر بشریت متوقف کنید» منتشر کرده بود، ابراز موافقت کرد.

این شکاف عمیق، آزمایشگاه‌های AI را در وضعیتی متزلزل قرار داده است. از یک سو، رهبران فنی از دست دادن کنترل آینده به نفع یک AI غیرهمراستا یا تمرکز افراطی قدرت می‌ترسند و از سوی دیگر، دولت آمریکا هرگونه کاهش سرعت عمدی را یک ریسک امنیتی ملی می‌بیند.

برای شما به عنوان کاربر یا سرمایه‌گذار، این یعنی «بوم هوش مصنوعی» وارد فاز نوسانات مدیریت‌شده می‌شود. ما از دوران سرعت مطلق به دوران محدودیت‌های مذاکره‌شده می‌رویم؛ جایی که تعریف «ایمنی» در برخورد میان مهندسان سیلیکون‌ولی و استراتژیست‌های ژئوپلیتیک تعیین می‌شود.

در آینده نزدیک، نتایج جلسه پیشنهادی میان رهبری مجلس نمایندگان و ارائه‌دهندگان AI را دنبال کنید. مایک جانسون اعلام کرده است که این شرکت‌ها باید دور هم بنشینند و توازن درست را پیدا کنند و مدعی شد که چنین جلسه‌ای را «فردا» سازماندهی خواهد کرد.

گام بعدی شما

• اگر از APIهای مدل‌های پیشرو استفاده می‌کنید، تغییرات در سرعت انتشار نسخه‌های جدید را به عنوان سیگنالی از فشار‌های نظارتی دنبال کنید.
• گزارش‌های ارزیابان شخص ثالث (در صورت انتشار) را برای سنجش واقعی سطح ایمنی مدل‌ها بخوانید.
• تضاد میان رویکرد «امنیت فنی» و «امنیت ملی» را در تحلیل‌های استراتژیک کسب‌وکار خود لحاظ کنید.

اما داستان سخت‌افزاری این تحول و فشار بر مراکز داده حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.