تصور کنید در رقابتی هستید که برندهٔ آن کل دنیا را به دست میآورد، اما نیمی از شرکتها میترسند همین رقابت باعث نابودی همه شود. این دقیقاً وضعیتی است که امروز در قلب سیاستگذاریهای هوش مصنوعی ایالات متحده جریان دارد.
دولت ترامپ واژه «شایعه» (Hoax) را برای توصیف بحران ایمنی هوش مصنوعی به کار برده است. این موضع، نقطه عطفی در نبرد بر سر کنترل فناوری است؛ جایی که بحثهای تئوریک جای خود را به یک جنگ قدرت واقعی بین دولت آمریکا و بزرگترین آزمایشگاههای جهان داده است. اکنون OpenAI و Anthropic بهشدت خواستار وضع استانداردهای ایمنی ملی و اجباری هستند.
این تنش در حالی رخ میدهد که صنعت به نقطهای رسیده است که دستورالعملهای داوطلبانه دیگر برای مدیریت حوادث هک و ریسکهای سیستمی کافی نیستند. همانطور که در تحلیل قبلی ما دربارهی مسیر شغلی متخصصان AI اشاره کردیم، چرخش به سمت قوانین سختگیرانه احتمالاً نقش مهندسان ایمنی و مدیران سیاستگذاری را در این شرکتها بازتعریف خواهد کرد.
تاریخچه ایمنی در فناوری
صنعت هوش مصنوعی را شبیه به روزهای ابتدایی هوانوردی یا خودروسازی تصور کنید — زمانی که هر تکنولوژی جدیدی باید ابتدا تعریف کند «ایمنی» دقیقاً به چه معناست تا بتواند پذیرفته شود. به نقل از یک سرمایهگذار خطرپذیر ناشناس در حوزه AI، هر فناوری — چه برق باشد، چه خودروها یا هواپیماها — مرحلهای را میگذراند که در آن صنعت باید بهطور جمعی تعریف کند که ایمنی به چه معناست.
در آن دورانها، فناوری تا زمانی که صنعت بر سر استانداردهای ایمنی توافق نکند تا پذیرش عمومی و گسترده آن ممکن شود، «وحشی و مهارناپذیر» بود. اکنون آزمایشگاههای AI در حال تلاش برای همین چرخش هستند، اما بر سر سازوکار و مکانیسم اجرای آن توافق ندارند.
جبهه موافقان نظارت
داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، طرحی سهمرحلهای برای کاهش سرعت توسعه پیشنهاد داده است. این چارچوب شامل موارد زیر است:
- استقرار ارزیابان شخص ثالث مستقیماً در آزمایشگاههای AI.
- هماهنگی تلاشهای ایمنی در سطح صنعت داخلی.
- انعقاد توافقنامههای بینالمللی با کمک دولتها.
آمودی در یادداشتی نوشت که شرکت او همواره مدافع نظارتهای سنجیده بوده است، حتی زمانی که متهم شدهاند از ترسِ رقابت یا برای اهداف خاص، به دنبال «هایپ»، «دنیاسگری» (Doomerism) یا «تسخیر رگولاتوری» (Regulatory Capture) هستند.
کریس لاهان (Chris Lehane)، مدیر امور جهانی OpenAI، به گزارش The Verge، تأکید کرد که دولت نقشی حیاتی در ایجاد استانداردهای ایمنی اجباری برای مدلهای بنیادی (Foundation Model) — شبیه به زیربنای یک ساختمان که تمام طبقات روی آن بنا میشوند — دارد. لاهان اظهار داشت: «پنجره سیاستگذاری AI باز است و حمایتهای دوحزبی در حال رشد است... کنگره باید این تکانه را به چارچوبی تبدیل کند که ایمنی را تقویت کند، از نوآوری آمریکایی حمایت کند و ایالات متحده را در پیشتازی AI نگه دارد.»
برخی این حرکت را یک بازی روابط عمومی استراتژیک برای کاهش فشارها و مدیریت پیامدهای ناشی از حوادث نگرانکننده هک میبینند. با این حال، برای مدتی به نظر میرسید سم آلتمن (OpenAI)، دمیس هاسابیس (Google DeepMind) و ایلان ماسک (SpaceX) بر سر بخشهایی از طرح سهمرحلهای آمودی توافق دارند.
بلوک مخالفان رگولاسیون
همه با این رویکرد موافق نیستند. مارک زاکربرگ (Mark Zuckerberg)، مدیرعامل Meta، صراحتاً با محدود کردن استقلال شرکتها مخالفت کرده است. او استدلال میکند که هر آزمایشگاه خودش مسئولیت و انگیزه دارد تا مدلها را با سرعت لازم و بهصورت ایمن بهتنهایی آموزش دهد.
طبق گزارش Wall Street Journal، زاکربرگ، ایلان ماسک و جنسن هوانگ (Jensen Huang)، مدیرعامل Nvidia، با موفقیت جلوی پیشنهاد ایجاد یک رگولاتور مستقل با بودجه صنعتی را گرفتند. این نهاد پیشنهادی قرار بود شبیه به FINRA در بخش مالی عمل کند؛ یعنی یک رگولاتور غیرانتفاعی خصوصی که در بخش مالی فعالیت میکند و بر صنعت نظارت دارد.
در حالی که شرکتهایی مثل Safe Superintelligence Inc، SpaceX، Google و Thinking Machines Lab سکوت کردهاند، شکاف بین جبهه «استقلال» و جبهه «چارچوبهای قانونی» عمیقتر میشود.
موضع دولت ترامپ
رئیسجمهور ترامپ رویکردی نوسانی و متلاطم به سیاستهای AI دارد. او هفته گذشته در یک سخنرانی تلفنی خطاب به جمعیتی مدعی شد که «رباتها دنیا را تسخیر نخواهند کرد» و ادعا کرد تنها حفاظ (Guardrail) مورد نیاز، یک «رئیسجمهور قوی و باهوش (IQ بالا!)» است.
ترامپ در شبکههای اجتماعی از یک «توطئه بیمارگونه» علیه مراکز داده و AI هشدار داده و به «تئوریسینهای توطئه، خائنان و افشاگران» هشدار داده است که «مراقب باشند!». او معتقد است هر کس در مسابقه AI پیروز شود، در کل برنده است.
این موضع تغییر شدیدی نسبت به دوره اول ریاستجمهوری اوست. به نقل از نیک ریس (Nick Reese)، مدیر سابق سیاستهای فناوری در DHS، ترامپ پیشتر فرمان اجرایی ۱۳۹۶۰ را امضا کرده بود. این فرمان اصولی را برای استفاده فدرال از AI جهت حفاظت از حریم خصوصی، حقوق مدنی و آزادیهای مدنی تعیین میکرد. ریس اشاره میکند که «شش سال پیش، دولت ترامپ اقدام اجرایی در مورد ایمنی AI امضا کرد، بنابراین تغییر واقعی در موضع رئیسجمهور رخ داده است.»
ترامپ اکنون ادعا میکند که دولت او پیش از این هم با استفاده از «قدرت کیفری و نظارتی عظیم بر این شرکتها»، جلوی اقدامات بد «افراد» حوزه AI را گرفته است.
خلأ نظارتی و ریسکهای سیستمی
زوی موشوویتز (Zvi Mowshowitz)، تحلیلگر حوزه صنعت، معتقد است ترامپ بیشتر بر اساس «حس و حال» (Vibes) تصمیم میگیرد تا سیاستهای منسجم. در حالی که دولت محدودیتهایی مثل تستهای پیش از انتشار توسط دولت برای آزمایشگاههای پیشرو را اجرا کرده، اما روایت «ریسک وجودی» را رد میکند؛ روایتی که موشوویتز آن را «نیروهای منفی» توصیف میکند.
نیک ریس استدلال میکند که تمرکز بر «سناریوهای آخرالزمانی» مشکل اصلی را منحرف میکند. به باور او، قاببندی مسئله به شکل «رباتها میآیند تا ما را بگیرند»، این حقیقت را پنهان میکند که AI همین حالا هم بدون نیاز به بدن فیزیکی یا تجسم در یک ربات، به انسانها آسیب میزند.
او اشاره میکند که جامعه در بخشهایی که شکست در آنها غیرقابل تحمل است (مثل هواپیمایی یا بانکداری)، سیستمها، بازرسیها، تضمین کیفیت و مکانیسمهای جایگزین (Fallback) سختگیرانهای دارد تا از آسیبهای سیستمی جلوگیری کند، اما صنعت AI فعلاً از این استانداردها مستثنی است.
این خلأ نظارتی محیطی متلاطم برای توسعهدهندگان و سرمایهگذاران ایجاد میکند. ریس معتقد است مخالفت با نظارت بر اساس این ایده «کهنه و خستهکننده» است که نظارت همیشه نوآوری را میکشد.
با افزایش فشارهای عمومی از طریق اعتراضات، تحریمها و outcry نسبت به تمرکز قدرت در دست چند شرکت، احتمالاً موضع «متزلزل و متناقض» دولت ترامپ به سمت نظارتهای رسمیتر تغییر خواهد کرد. در نهایت، ریس تأکید میکند که ایمنی AI به چیزی فراتر از تواناییهای ذهنی یک مقام منتخب نیاز دارد.
گام بعدی شما
- اگر مدیر محصول یا توسعهدهنده هستید، روی ابزارهای تیم قرمز (Red Teaming) سرمایهگذاری کنید تا پیش از هر قانونی، استانداردهای ایمنی داخلی خود را بسازید.
- تغییرات در دسترسی به APIهای مدلهای پیشرو را دنبال کنید؛ هرگونه توافق بین OpenAI و دولت ترامپ مستقیماً روی هزینه و محدودیتهای استنتاج اثر میگذارد.
- گزارشهای مربوط به «تسخیر رگولاتوری» را بخوانید تا بفهمید چگونه شرکتهای بزرگ سعی میکنند قوانین را به نفع خود تغییر دهند.
اما نبرد واقعی بر سر سختافزار است؛ برای درک اینکه چرا انویدیا در این بازی نقش داور را دارد، به تحلیل ما درباره زنجیره تأمین تراشههای H100 مراجعه کنید.
گفتگو