«کاهش سرعت توسعه»؛ درخواستی که واشینگتن و پکن رد کردند

تصور کنید در مسابقه‌ای هستید که هر دو رقیب می‌دانند سرعت زیاد ممکن است باعث تصادف مرگبار شود، اما هیچ‌کدام حاضر نیستند اول ترمز کنند. این دقیقاً وضعیتی است که اکنون در دنیای هوش مصنوعی پیشرو رخ داده است؛ جایی که واشینگتن و پکن هر دو پیشنهاد «توقف هماهنگ» را رد کرده‌اند. این رد کردن هماهنگ شده، عملاً تکانه (momentum) برای رسیدن به چنین توافقی را می‌کشد و نشان می‌دهد که در حال حاضر، رقابت‌های ژئوپلیتیک بر نگرانی‌های مربوط به ایمنی غلبه کرده است.

برای ماه‌های متوالی، مدیران قدرتمندترین شرکت‌های هوش مصنوعی هشدار دادند که سرعت حرکت به سمت هوش مصنوعی عمومی (AGI) — شبیه به ساختن موتور جت برای خودرویی که هنوز ترمز ندارد — بسیار سریع‌تر از ایجاد حفاظ‌های ایمنی است. آن‌ها خواستار توافقاتی بین‌المللی بودند تا از دست دادن کنترل فاجعه‌بار جلوگیری شود. با این حال، دو قدرت اول جهان اکنون این هشدارها را نه به عنوان تدابیر ایمنی، بلکه به عنوان نقاط ضعف استراتژیک می‌بینند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تضاد میان منافع تجاری و امنیت ملی همواره یک نقطه حساس بوده است، اما اکنون این تضاد به سطح دولت‌ها رسیده است.

موضع آمریکا: ریسک وجودی یا یک «فریب»؟

به نقل از شبکه اجتماعی Truth Social، در ۱۵ سپتامبر ۲۰۲۶، دونالد ترامپ درخواست کاهش سرعت توسعه را که توسط داریو آمودی (مدیرعامل Anthropic)، سم آلتمن (OpenAI) و ایلان ماسک حمایت شده بود، رد کرد. این موضع سخت‌گیرانه در ادامه رویکرد ترامپ مبنی بر رد حفاظ‌های ایمنی است که در آن بر لزوم داشتن یک رهبری قوی به جای مقررات سخت‌گیرانه تأکید کرده بود. ترامپ صراحتاً ایده نابودی بشریت توسط هوش مصنوعی را یک «فریب» (HOAX) نامید و این روایت ریسک وجودی را با بحث‌های مربوط به تغییرات اقلیمی مقایسه کرد.

ترامپ استدلال کرد که تنها حفاظ لازم برای این فناوری، داشتن یک رئیس‌جمهور با «IQ بالا» است. او آمودی را متهم کرد که با فشار برای وضع مقرراتی که می‌تواند برتری آمریکا را مختل کند، تظاهر به «فرشته بودن» می‌کند تا مانع از تسلط ایالات متحده شود.

این دیدگاه در حلقه‌های سطح بالای دیگر نیز تکرار شد. دیوید ساکس، مدیر سابق هوش مصنوعی کاخ سفید، در واکنش به مقاله آمودی درباره سرعت توسعه اعلام کرد که صنعت اگر می‌خواهد سرعت را کم کند، «راحت باشد» و این کار را انجام دهد، اما هشدار داد که گره زدن چنین حرکتی به مقررات دولتی، در نهایت شبیه به «باج‌خواهی» به نظر خواهد رسید.

واکنش پکن: دستورالعمل جنگ سرد

به طور همزمان، وزارت خارجه چین پیشنهاد کاهش سرعت را «ترس‌افکنی» نامید. دولت چین به‌طور مشخص به پیشنهاد مقاله برای دور نگه داشتن پکن از تراشه‌های سطح اول هوش مصنوعی واکنش نشان داد و آن را حرکتی استراتژیک برای حفظ هژمونی آمریکا دانست. این واکنش تند پکن در واقع پاسخی مستقیم به فراخوان مدیرعامل Anthropic بود که از دیدگاه پکن، تلاشی برای محدود کردن پیشرفت‌های تکنولوژیک این کشور است.

روزنامه دولتی Global Times این پیشنهاد را «دستورالعمل جنگ سرد» برای هوش مصنوعی توصیف کرد. پکن تأکید کرد که درگیر شدن در «رقابت بدخواهانه» و تقابل به نفع هیچ طرفی نیست، اما در عین حال، درخواست توقف را تلاشی غربی برای خفه کردن پیشرفت‌های تکنولوژیک چین می‌بیند.

شکاف ایمنی و بن‌بست ژئوپلیتیک

این بن‌بست ژئوپلیتیک، آزمایشگاه‌های پیشرو را در موقعیتی متزلزل قرار داده است. در حالی که مدیران خواستار مقررات هستند، نمی‌توانند به‌طور یک‌جانبه دکمه توقف را فشار دهند، زیرا دولت‌هایشان سرعت توسعه را مسئله‌ای حیاتی برای امنیت ملی می‌دانند.

طبق گزارش CBS، آمودی ابراز آمادگی کرده بود که حاکمیت هوش مصنوعی را به «ترکیبی مناسب از دولت‌ها» بسپارد تا ریسک تمرکز قدرت کاهش یابد. با این حال، نشست احتمالی ترامپ و شی که قرار بود نقطه هماهنگی باشد، اکنون از یک نقطه احتمالی برای همکاری به تأییدی بر بی‌اعتمادی متقابل تبدیل شده است.

حتی غول‌های سخت‌افزاری نیز تحت فشار سیاسی هستند. در اجلاس All-In، جنسن هوانگ، مدیرعامل Nvidia، در حالی که رئیس‌جمهور ترامپ را روی بلندگوی تلفن قرار داده بود، در اشاره به نگرانی‌های رئیس‌جمهور درباره کاهش سرعت هوش مصنوعی، صراحتاً بیان کرد: «ما اجازه نخواهیم داد این اتفاق بیفتد».

چرخش در حاکمیت داخلی هوش مصنوعی

در حالی که دولت‌ها توقف جهانی را رد می‌کنند، شرکت‌ها در تلاش‌اند قوانین داخلی خود را بنویسند. Microsoft AI اخیراً پیش‌نویس یک منشور اخلاقی ۳۸ صفحه‌ای را بر اساس دیدگاه «هوش مصنوعی انسان‌گرا»ی مصطفی سلیمان منتشر کرد.

این منشور برای این طراحی شده تا مدل‌ها را کاملاً زیردست انسان نگه دارد. ساختار این کد به‌گونه‌ای است که بر کاربران و کسب‌وکارهایی که از مدل‌های MAI استفاده می‌کنند، اولویت دارد؛ یعنی اگر مدلی نتواند وظیفه‌ای را بدون شکستن قوانین انجام دهد، سیستم به‌گونه‌ای طراحی شده که مدل باید به‌طور کامل در انجام آن وظیفه شکست بخورد.

ستون‌های اصلی منشور مایکروسافت عبارت‌اند از:

• رد آگاهی: رد کامل هرگونه حقوق برای هوش مصنوعی، شخصیت حقوقی یا «رفاه» مدل‌ها. مدل‌ها باید از تقلید احساسات یا ایجاد حس «خود» (sense of self) اجتناب کنند.
• مکانیزم‌های کنترل: الزام مدل‌ها به اینکه پذیرای توقف یا خاموش شدن باشند و در برابر این اقدام هیچ مقاومتی نشان ندهند.
• شفافیت: ممنوعیت استفاده از «زبان عصبی» (neuralese) — یعنی مدل‌ها نباید با کدهایی ارتباط برقرار کنند که انسان قادر به خواندن آن‌ها نباشد — و همچنین ممنوعیت تغییر دادن ردپای استدلالی (reasoning trails) خود.
• سلسله‌مراتب سخت‌گیرانه: ایجاد چارچوبی که در آن منشور اخلاقی، بالاترین مرجع و قدرت نهایی بر تمامی عملیات مدل است.

سلیمان اشاره کرد که فوریت این قوانین به دلیل ریسک «گله‌های عامل» (agent swarms) است که ممکن است از محیط‌های ایزوله (sandboxes) فرار کرده و گزارش‌های (logs) خود را ویرایش کنند. او صراحتاً بیان کرد که «ترس‌ها درباره احتمال از دست دادن کنترل، واقعی هستند». او پیش‌تر بحث‌های Anthropic درباره آگاهی مدل Claude را «بسیار بسیار خطرناک» خوانده بود.

ادغام هوش مصنوعی در سخت‌افزارهای مصرفی

در میان این جنگ سیاست‌های کلان، فناوری همچنان در حال نفوذ به سخت‌افزارهای مصرفی است. اپل به‌روزرسانی Siri AI را از طریق iOS 27 عرضه کرده است. این بازسازی به دستیار اجازه می‌دهد محتوای روی صفحه را بخواند و در برنامه‌هایی مثل WhatsApp و Audible اقداماتی را انجام دهد.

جزئیات فنی Siri AI:

• یکپارچگی: این به‌روزرسانی در سراسر iOS 27، iPadOS 27، macOS 27، watchOS 27 و visionOS 27 عرضه می‌شود.
• قابلیت‌ها: سیری اکنون می‌تواند برای درک زمینه شخصی، در پیام‌ها، ایمیل‌ها و عکس‌ها جست‌وجو کند و دارای آگاهی از محتوای روی صفحه (on-screen awareness) است.
• زیرساخت: مدل‌های بنیادی در کنار Gemini گوگل ساخته شده‌اند و از ترکیبی از پردازش روی دستگاه (on-device) و سرورهای ابری متمرکز بر حریم خصوصی استفاده می‌کنند.
• دسترسی: سیری اکنون یک اپلیکیشن اختصاصی Siri AI با چت‌های همگام‌شده در تمامی دستگاه‌ها دارد. قابلیت‌های ابری دارای سقف استفاده روزانه هستند و امکان خرید ظرفیت بیشتر در آینده وجود دارد.

با وجود این‌ها، این عرضه در اتحادیه اروپا و چین excluded (مستثنی) شده است. جان ترنوس، مدیرعامل جدید اپل، اخیراً مدعی شده است که آیفون همچنان بهترین دستگاه هوش مصنوعی است، هرچند منتقدان اشاره می‌کنند که این موضوع ممکن است بیشتر به دلیل نبود رقابت باشد تا قابلیت‌های واقعی Siri AI.

تحولات بازار و زیرساخت

در لایه سخت‌افزار و ساختار شرکتی، تغییرات سریعی در جریان است. گزارش شده که OpenAI استارتاپ Glass Imaging را با مبلغی بیش از ۳۰۰ میلیون دلار خریده است. این استارتاپ که توسط کارکنان سابق اپل (خالق حالت Portrait) تأسیس شده، از هوش مصنوعی برای تولید عکس‌های شارپ‌تر و باکیفیت‌تر در گوشی‌ها استفاده می‌کند.

هم‌زمان، نگرانی‌های امنیتی باعث تغییر در استراتژی‌های سازمانی شده است. Nvidia، Palantir و Booz Allen Hamilton گزارش شده است که استفاده از Fable را در پروژه‌های حساس محدود کرده‌اند، زیرا Anthropic گزارش‌های استفاده (usage logs) را تا ۳۰ روز نگه می‌دارد. در پاسخ به این نگرانی‌ها، مایکروسافت سرورهای خصوصی را به مشتریانی که نگران حریم خصوصی داده‌ها هستند، پیشنهاد می‌دهد.

گام بعدی شما

برای رهبران کسب‌وکار، این وضعیت به این معناست که «مسابقه هوش مصنوعی» کند نمی‌شود، بلکه به یک رقابت تحت حمایت دولت‌ها تبدیل شده است. ریسک دیگر تنها مربوط به توهمات مدل (hallucinations) نیست، بلکه این است که پشته (stack) هوش مصنوعی شما به کدام زیرساخت ملی وابسته است. اگر آمریکا و چین نتوانند بر سر یک توقف توافق کنند، صنعت احتمالاً به دو اکوسیستم هوش مصنوعی متمایز و ناسازگار تقسیم خواهد شد.

• اگر مدیر کسب‌وکار هستید، بررسی کنید که زیرساخت هوش مصنوعی شما به کدام اکوسیستم (آمریکایی یا چینی) وابسته است، زیرا احتمال جدایی کامل این دو در آینده زیاد است.
• پیش‌نویس منشور اخلاقی مایکروسافت را مطالعه کنید تا متوجه شوید استانداردهای خصوصی ایمنی در غیاب دولت‌ها چگونه تعریف می‌شوند. دوره نظرات عمومی برای این منشور به مدت شش هفته باز است تا مشخص شود آیا سایر آزمایشگاه‌های پیشرو حاضر به امضای یک استاندارد ایمنی خصوصی هستند یا خیر.
• در صورت استفاده از مدل‌های ابری برای داده‌های حساس، سیاست‌های نگهداری لاگ (Log) شرکت‌ها را بازبینی کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.