«تنظیم سرعت توسعه»؛ پیشنهاد جدید آزمایشگاه‌های پیشرو برای نظارت مستقل

تصور کنید در مسابقه‌ای هستید که ترمزهای ماشین شما از کار افتاده و رقیبانتان هم همین‌طور؛ در چنین وضعیتی، تنها راه نجات این است که همه با هم توافق کنند سرعت را کم کنند. این دقیقاً همان وضعیتی است که اکنون در قلب آزمایشگاه‌های پیشرو هوش مصنوعی در جریان است.

به گزارش تک‌کرانچ (TechCrunch)، تلاشی هماهنگ برای کند کردن «مسابقه تسلیحاتی» هوش مصنوعی در حال شکل‌گیری است، اما این جریان با دیواری از مقاومت در بخش سخت‌افزار و دولت ایالات متحده روبروست. داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، اخیراً طرحی را برای «تنظیم سرعت مرزهای توسعه» (pace the frontier) منتشر کرد. این اقدام منجر به یک همسویی سریع و غافلگیرکننده از سوی دیگر غول‌های این صنعت شده است. این پیشنهاد در ادامه دیدگاه‌های آمودی است که پیش‌تر بر لزوم کاهش سرعت توسعه برای تضمین ایمنی تأکید کرده بود.

این بحث در لحظه‌ای بسیار متلاطم برای حاکمیت هوش مصنوعی رخ می‌دهد. برای سال‌ها، این صنعت در حالت «سریع حرکت کن و همه چیز را بشکن» عمل کرده است و آزمایشگاه‌ها در رقابتی شدید بودند تا اولین کسی باشند که به هوش مصنوعی عمومی (AGI) دست می‌یابد. اکنون، جناحی از رهبران این حوزه معتقدند که ریسک‌های احتمالی از سازوکارهای حفاظتی پیشی گرفته‌اند. به همین دلیل، محور گفتگو از این سؤال که «آیا باید نظارت کنیم» به این سؤال تغییر کرده است که «چگونه باید هماهنگ شویم».

زمینه: تغییر مسیر به سوی اجماع

در یکی از قسمت‌های اخیر پادکست Equity متعلق به تک‌کرانچ، میزبانان برنامه یعنی کیرستن کوروسک، شان اوکین و آنتونی ها، این موضوع را تحلیل کردند که آیا مدیرانی مانند آمودی و سم آلتمن (Sam Altman)، مدیرعامل اوپن‌ای‌آی (OpenAI)، واقعاً در مورد کاهش سرعت جدی هستند یا خیر. این بحث بر یک تغییر ناگهانی در چشم‌انداز صنعت تأکید داشت. در حالی که برخی تحلیلگران پیش از این معتقد بودند به دلیل ساختار این شرکت‌ها، کاهش سرعت غیرممکن است، اکنون روایت به طور کامل تغییر کرده است.

آنتونی ها اشاره کرد که رهبران صنعت با سرعتی قابل توجه حول ایده‌های آمودی متمرکز شدند. او خاطرنشان کرد که حتی پیش از انتشار رسمی پست وبلاگی، نسخه‌های مشابهی از این طرح در میان جامعه ایمنی هوش مصنوعی در حال گردش بود. این موضوع نشان می‌دهد که ایده‌های آمودی در خلاء ایجاد نشده‌اند، بلکه پیش از آن توسط گروه گسترده‌تری از حامیان ایمنی مورد بحث قرار گرفته بودند که آماده بودند تا یک جبهه متحد را تشکیل دهند. این رویکرد پاسخی است به دلیل ترمز در توسعه قابلیت‌های AI که پیش‌تر توسط مدیرعامل آنتروپیک تحلیل شده بود.

ماهیت این اجماع

ها مشاهده کرد که اگرچه این اجماع سریع امیدوارکننده است، اما در عین حال باعث ایجاد شک و تردید می‌شود. او این سؤال را مطرح کرد که آیا این همسویی نشان‌دهنده گام‌های واقعی و بزرگ به سوی کاهش سرعت است یا صرفاً امری سطحی است. سرعت بالای این هماهنگی نشان می‌دهد که جریانی از تفکرات پیشین در جامعه ایمنی وجود داشته که صرفاً منتظر یک کاتالیزور یا جرقه برای شروع بوده است.

با این حال، این اجماع از سوی برخی با تردید نگریسته می‌شود. شان اوکین عبارت «تنظیم سرعت مرزها» را یک «بیانیه بسیار کالیفرنیایی» توصیف کرد و آن را با دیالوگ‌های فیلم Point Break مقایسه کرد و به شوخی گفت که این جمله شبیه این است که بگوییم: «پسر، ما می‌خوایم سرعت مرزها رو تنظیم کنیم». او استدلال کرد که این برنامه‌ها همچنان کلی هستند و فاقد جزئیاتی هستند که به ما بفهمانند دقیقاً چرا این رهبران معتقدند خطرات خاصی وجود دارد یا اینکه «کند کردن سرعت» در عمل دقیقاً به چه معناست.

جزئیات: طرح سه مرحله‌ای تنظیم سرعت

طبق گزارشی که تک‌کرانچ در ۲۰ سپتامبر ۲۰۲۶ منتشر کرد، این پیشنهاد که توسط آمودی championed شده و مورد حمایت سم آلتمن و دمیس هاسابیس (Demis Hassabis)، هم‌بنیان‌گذار گوگل دیپ‌مایند (Google DeepMind) است، بر سه مکانیسم اصلی تمرکز دارد:

• ارزیابی مستقل: استقرار ارزیابان شخص ثالث و مستقل مستقیماً در داخل آزمایشگاه‌هایی مانند آنتروپیک و اوپن‌ای‌آی. این ارزیابان وظیفه دارند شیوه‌های ایمنی هوش مصنوعی را نظارت کرده و حوادث را به صورت لحظه‌ای ردیابی کنند. با این حال، منتقدان اشاره می‌کنند که هنوز ابهامات زیادی در مورد نحوه عملکرد واقعی این نظارت وجود دارد.
• هماهنگی داخلی: ایجاد استانداردهای ایمنی مشترک و محدودیت‌هایی در میان شرکت‌های بزرگ هوش مصنوعی که در کشورهای دموکراتیک فعالیت می‌کنند. هدف این است که مجموعه‌ای یکپارچه از قوانین ایجاد شود تا از این اتفاق جلوگیری شود که شرکت‌ها برای کسب مزیت رقابتی، استانداردهای ایمنی را نادیده بگیرند یا از مسیرهای میان‌بر بروند.
• توافقات بین‌المللی: ایجاد هماهنگی جهانی در مورد ایمنی برای جلوگیری از «رقابت تا سقوط» (race to the bottom)؛ وضعیتی که در آن آزمایشگاه‌ها برای اینکه از رقبای خارجی عقب نمانند، ایمنی را نادیده می‌گیرند. این امر مستلزم هماهنگی‌های دیپلماتیک و شرکتی سطح بالا در سطح بین‌المللی است.

مقاومت بخش سخت‌افزار

همه این باور را دارند که مرزهای توسعه نیاز به ترمز دارند. جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا (Nvidia)، به عنوان منتقد اصلی این جنبش ظاهر شده است. هوانگ در حضور پرسر و صدای خود در اجلاس All-In، ادعاهای رئیس‌جمهور دونالد ترامپ را تکرار کرد و گفت که واکنش‌های منفی به هوش مصنوعی یک «فریب» (hoax) است و نظارت‌ها غیرضروری هستند.

در مصاحبه‌ای جداگانه با برنامه Sunday Morning شبکه CBS، هوانگ مدعی شد که احتمال اینکه هوش مصنوعی باعث پایان جهان شود «۰٪» است. این موضع، انویدیا را در تضاد مستقیم با روایت «اول ایمنی» قرار می‌دهد که توسط آزمایشگاه‌های خریدار تراشه‌های انویدیا ترویج می‌شود. منتقدان استدلال می‌کنند که انویدیا بیشترین سود را از گسترش تهاجمی و بدون ترمز توان پردازشی هوش مصنوعی می‌برد، زیرا توسعه سریع‌تر منجر به تقاضای بیشتر برای سخت‌افزارهای آن‌ها می‌شود.

پویایی سیاسی و «بزرگ‌ترِ اتاق»

رابطه بین صنعت هوش مصنوعی و دولت ایالات متحده تغییر کرده است. شان اوکین مشاهده کرد که اکنون جنسن هوانگ به عنوان «بزرگ‌ترِ اتاق» (adult in the room) دیده می‌شود؛ نقشی که پیش از این در اختیار مایکروسافت و مدیرعامل آن، ساتیا نادلا (Satya Nadella) بود. نادلا کنترل این نقش را از دست داد، بخشی به این دلیل که ادعای علنی او مبنی بر اینکه «گوگل را به رقص در می‌آورد» محقق نشد و در بسیاری از موارد، اتفاق عکس آن رخ داد.

هوانگ خود را به عنوان یک رابط حیاتی بین حوزه هوش مصنوعی و دولت فعلی تثبیت کرده است. نمونه بارز این موضوع، تماس تلفنی بود که هوانگ در حین حضور روی صحنه در اجلاس All-In از رئیس‌جمهور ترامپ دریافت کرد. این تعامل به رئیس‌جمهور و مدیرعامل انویدیا اجازه داد تا به شکلی بسیار نمایشی و سازمان‌یافته به بحث‌های ایمنی پاسخ دهند. کیرستن کوروسک اشاره کرد که این نمایش نشان داد چگونه منافع انویدیا کاملاً با تمایل ترامپ برای شتاب حداکثری همسو است.

استدلال شکست بازار

تحلیلگران صنعت این سؤال را مطرح می‌کنند که آیا بازار آزاد می‌تواند این مسائل ایمنی را حل کند؟ کیرستن کوروسک این پرسش را مطرح کرد که آیا مقررات موجود و یک محیط رقابتی — بدون حمایت‌گرایی — به طور طبیعی شرکت‌هایی را که محصولات ناایمن عرضه می‌کنند جریمه کرده و آن‌ها را از نظر اقتصادی غیرقابل دوام می‌کند یا خیر.

شان اوکین این ایده را به چند دلیل رد کرد:

• فقدان اراده نظارتی: او استدلال کرد که دولت فدرال فعلی مشتاق به اجرای گسترده مقررات نیست و احتمال کمتری وجود دارد که این کار را به طور خاص در حوزه پیچیده هوش مصنوعی انجام دهد.
• محدودیت انتخاب مصرف‌کننده: فشار ناشی از انتخاب مصرف‌کننده وجود ندارد. او اشاره کرد که انتخاب‌های متنوعی برای مصرف‌کنندگان وجود ندارد که بازار را به حرکت درآورد؛ به این معنی که اگر شرکتی کاری «بسیار بد» انجام دهد، بعید است که موج گسترده‌ای از لغو اشتراک‌ها رخ دهد که بقای شرکت را تهدید کند.
• وابستگی سازمانی (Lock-in): بازار به سمت فروش سازمانی تغییر کرده است. شرکت‌های بزرگ احتمالاً کل زیرساخت خود را از کدکس (Codex) اوپن‌ای‌آی به کلود کد (Claude Code) آنتروپیک منتقل نمی‌کنند، صرفاً به این دلیل که با یک اصل ایمنی یا اقدام شرکتی مخالف هستند.
• ضربه‌گیرهای سرمایه‌گذاری: این آزمایشگاه‌ها چنان مبالغ عظیمی سرمایه جذب کرده‌اند که می‌توانند به راحتی ضررهای مالی را جذب کنند که در حالت عادی هر شرکت کوچک‌تری را ورشکست می‌کرد.

ریسک تشکیل «کارتل»

همچنین نگرانی فزاینده‌ای وجود دارد که این «اجماع» بر سر ایمنی، یک حرکت استراتژیک باشد. کیرستن کوروسک هشدار داد که اگرچه اجماع می‌تواند خوب باشد، اما می‌تواند «آغاز تشکیل یک کارتل» (اتحادیه انحصاری) نیز باشد.

طرفداران طرح تنظیم سرعت با تمرکز خاص بر «آزمایشگاه‌های پیشرو هوش مصنوعی»، ممکن است در تلاش باشند تا یک حلقه بسته ایجاد کنند. با تعیین استانداردهای نظارتی بسیار بالا و دعوت از ارزیابان شخص ثالثی که مدیریت آن‌ها فقط از عهده بازیگران بزرگ برمی‌آید، آن‌ها می‌توانند به طور موثری رقبای کوچک‌تر و چالش‌های متن‌باز (open-source) را از میدان به در کنند. این امر اقدامات ایمنی را به ابزاری برای تسخیر بازار تبدیل می‌کند.

نتیجه‌گیری: تنظیم سرعت در مقابل کند کردن

یک تمایز زبانی ظریف اما مهم در این بحث وجود دارد. در حالی که عموم مردم کلمه «کاهش سرعت» (slowdown) را می‌شنوند، رهبرانی مانند آلتمن و آمودی واژه «تنظیم سرعت» (pace) را ترجیح می‌دهند. سه پیشنهاد ارزیابی مستقل، هماهنگی داخلی و توافقات بین‌المللی، ذاتاً ایجاب نمی‌کنند که توسعه کندتر از سرعت فعلی پیش برود. آن‌ها فقط پیشنهاد می‌کنند که اقدامات ایمنی به سرعت موجود اضافه شوند.

این تنش پویایی عجیبی ایجاد می‌کند که در آن آزمایشگاه‌ها درخواست محدودیت می‌کنند، در حالی که تامین‌کننده سخت‌افزار و دولت فدرال به دنبال شتاب مطلق هستند. نتیجه، چشم‌اندازی تکه‌تکه است که در آن نقش «بزرگ‌ترِ اتاق» دیگر شفاف نیست. برای کسانی که مسیر رسیدن به AGI را دنبال می‌کنند، سؤال واقعی این است که آیا «تنظیم سرعت» یک تلاش واقعی برای ایمنی است یا یک بازسازی برند پیچیده برای تسخیر بازار. اگر دولت فدرال همچنان تمایلی به اجرای مقررات گسترده نداشته باشد، این توافقات داوطلبانه ممکن است تنها حفاظ‌های باقی‌مانده باشند — یا صرفاً نمایشی برای افکار عمومی.

گام بعدی شما

• اگر مدیر محصول هستید، بررسی کنید که آیا ابزارهای AI شما به استانداردهای ایمنی جدیدی که این شرکت‌ها تعریف می‌کنند وابسته خواهند شد یا خیر.
• تحولات مربوط به مدل‌های متن‌باز را دنبال کنید تا ببینید آیا فشار نظارتی غول‌ها، نوآوری در مدل‌های کوچک‌تر را محدود می‌کند یا خیر.
• گزارش‌های مربوط به همکاری‌های دوجانبه آمریکا و چین در حوزه ایمنی AI را زیر نظر بگیرید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.