چرا مدل نظارتی «قانون بزرگ هوش مصنوعی آمریکا» بوی بحران ۲۰۰۸ می‌دهد؟

اگر شما یک مدیر کسب‌وکار یا سیاست‌مدار هستید که امنیت هوش مصنوعی را دنبال می‌کنید، باید بدانید «قانون بزرگ هوش مصنوعی آمریکا» (Great American AI Act) با یک تناقض بنیادین روبروست: این قانون می‌خواهد مرزهای ایمنی را با اعطای مجوز به همان متخصصانی تامین کند که قصد تنظیم آن‌ها را دارد. در ۴ ژوئن ۲۰۲۴، مجلس نمایندگان پیش‌نویسی ۲۶۹ صفحه‌ای را منتشر کرد که تأیید مستقل برای قدرتمندترین سامانه‌های هوش مصنوعی جهان را اجباری می‌کند.

این اقدام در حالی رخ می‌دهد که ایالات متحده برای ایجاد تعادل بین نوآوری و ریسک‌های فاجعه‌بار در تکاپو است. طبق گزارش‌های منتشر شده، این لایحه که توسط نمایندگانی چون جی اوبرنولت و لوری تراهان پیشنهاد شده، شرکت‌هایی با درآمد سالانه بیش از ۵۰۰ میلیون دلار را هدف قرار می‌دهد. هدف اصلی، جایگزینی قوانین پراکندهٔ ایالتی با یک رژیم فدرال واحد است که عملاً اجرای قوانین ایالتی در حوزه هوش مصنوعی را برای سه سال متوقف می‌کند.

سازوکار نظارتی

بر اساس مستندات این پیش‌نویس، مرکز استانداردها و نوآوری هوش مصنوعی که زیرمجموعهٔ NIST است، به سازمان‌های تأیید مستقل (IVO) مجوز می‌دهد تا مدل‌های پیشرو را سالی دو بار بازرسی کنند. این چارچوب از قانون «ساربانز-اکسلی» الگوبرداری کرده است؛ قانونی که پس از رسوایی شرکت انرون، حسابرسی‌های مالی مستقل را اجباری کرد.

این مدل در امور مالی جواب می‌دهد چون مهارت حسابرسی یک ترازنامه، از مهارت ادارهٔ یک شرکت جداست. شما برای تأیید ارزش موجودی کالا، نیازی ندارید که خودتان زنجیره تأمین را مدیریت کرده باشید. در واقع متدولوژی حسابداری خارج از عملیات اجرایی است.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ساختارهای نظارتی مدل‌های بازمتن اشاره کردیم، تفکیک بین «تولید» و «نظارت» کلید موفقیت هر رگولاتوری است. اما منطق این لایحه فرض می‌کند که بازرسی از هوش مصنوعی هم مثل بازرسی ترازنامه است؛ یعنی مهارتی جدا از اجرای کسب‌وکار. منتقدان می‌گویند این تشبیه اساساً غلط است.

تضاد تخصص و استقلال

برای اینکه یک حسابرس بفهمد آیا یک مدل ریسک فاجعه‌باری دارد یا خیر، باید تخصص عمیقی در موارد زیر داشته باشد:

• دینامیک‌های آموزش و قابلیت‌های نوظهور
• تکنیک‌های هم‌راستاسازی (Alignment) — شبیه تنظیم دقیق یک ساز موسیقی تا با نت‌های جهانی هماهنگ شود —
• حالت‌های شکست (Failure modes) که فقط در مقیاس‌های عظیم ظاهر می‌شوند

این تخصص خاص تقریباً فقط در همان آزمایشگاه‌هایی وجود دارد که باید بازرسی شوند. به نقل از منابع داخلی، مؤسسه امنیت هوش مصنوعی بریتانیا حدود ۱۰۰ کارکن خود را از سرویس‌های اطلاعاتی، دانشگاه‌ها و همان آزمایشگاه‌های پیشرو جذب می‌کند. حقوق این افراد سقف ۱৯৫ هزار دلار است، در حالی که بسته‌های remunerative در بخش خصوصی چندین برابر این رقم است. کارکنان این نقش را یک «دوره خدمت دولتی موقت» می‌نامند.

حتی تلاش‌های غیرانتفاعی هم با این نشت تخصص می‌جنگند. چندین نفر از فارغ‌التحصیلان METR — سازمان غیرانتفاعی پیشرو در ارزیابی مدل‌ها — پیش از این به تیم‌های ایمنی داخلی Anthropic و OpenAI پیوسته‌اند.

الگوی شکست سیستماتیک

ساختار این لایحه بیشتر شبیه مدل آژانس‌های رتبه‌بندی اعتباری پیش از سال ۲۰۰۸ است. قبل از بحران، سه سازمان رتبه‌بندی تقریباً هر محصول ساختاریافته‌ای را که بانک‌ها عرضه می‌کردند، رتبه‌بندی می‌کردند. سازمان بورس و اوراق بهادار (SEC) این شرکت‌ها را «مستقل» نامید، اما آن‌ها را خودِ صادرکنندگان پرداخت می‌کردند.

متدولوژی آن‌ها از فرآیند ساخت محصول جدا نبود. برای رتبه‌بندی یک اوراق بهادار با پشتوانه وام، باید همان مدل‌های همبستگی و مکانیسم‌های آبشاری را می‌فهمید که بانک‌ها استفاده می‌کردند. SEC حتی در سال ۲۰۰۳ پذیرفت که این مدل «پرداخت توسط صادرکننده» تضاد منافع ایجاد می‌کند. در نهایت، کارکنان Moody's به بیش از ۶۰ شرکتی رفتند که خودشان رتبه‌بندی کرده بودند. تا پایان سال ۲۰۰۸، ۸۰٪ از اوراق با رتبه AAA به زباله تبدیل شدند.

هزینه پیش‌دستی

این تسخیر نظارتی با توقف قوانین ایالتی تشدید می‌شود. فیل وایزر، دادستان کل کلرادو و ۲۲ دادستان کل دیگر، با این توقف فدرال مخالفت کرده‌اند. ۴۰ دادستان کل و ۲۶۰ قانون‌گذار ایالتی پیش از این با حذف اختیارات ایالتی در قوانین هوش مصنوعی مخالفت کرده بودند.

برد کارسون، رئیس سازمان «آمریکایی‌ها برای نوآوری مسئولانه»، این پیش‌دستی را یک «اشتباه نسلی» می‌نامد. توقف سه ساله یعنی در حالی که سازمان‌های IVO در حال طراحی و جذب نیرو هستند، ۵۰ نهاد اجرایی ایالتی نمی‌توانند روی نحوه «ساخت» سیستم‌های هوش مصنوعی اثر بگذارند. لایحه اجازه نظارت بر «استفاده» از هوش مصنوعی را می‌دهد، اما قدرت نظارت بر «تولید» را می‌گیرد.

در نهایت، بزرگ‌ترین نهادهای تحت نظارت — یعنی آزمایشگاه‌های پیشرو — بزرگ‌ترین بهره‌برداران می‌شوند. آن‌ها از شر ۵۰ گره نظارتی ایالتی خلاص می‌شوند و در عوض بازرسی‌هایی را می‌پذیرند که توسط فارغ‌التحصیلان خودشان انجام می‌شود. شرکت‌هایی که باید به IVOها پاسخ دهند، همان‌هایی هستند که متدولوژی ارزیابی را تعریف کرده‌اند و لابی‌گری برای شکل دادن به این لایحه را پیش بردند.

هر حوزه فنی پیچیده‌ای با این تضاد روبروست. بازرسان هسته‌ای در تأسیسات IAEA جدا از اپراتورها آموزش می‌بینند. حسابرسان مالی از متدهای خارجی استفاده می‌کنند. اما هوش مصنوعی چنین تفکیکی ندارد. مهارت بازرسی از مرزهای هوش مصنوعی، همان مهارت ساختن آن است. قانون بزرگ هوش مصنوعی آمریکا پیشنهاد می‌کند این مهارت را «مجوزدار» کند. آژانس‌های رتبه‌بندی اعتباری در سال ۲۰۰۳ دقیقاً همین راه را رفتند.

گام بعدی شما

• چالش‌های حقوقی دادستان‌های کل ایالتی را دنبال کنید تا ببینید آیا توقف قوانین ایالتی ابطال می‌شود یا خیر.
• استانداردهای جذب نیروی NIST برای سازمان‌های IVO را بررسی کنید تا متوجه شوید چه کسی «ناظر» را تعریف می‌کند.
• اگر در شرکت‌های متوسط هستید، بررسی کنید که آیا استانداردهای IVO هزینه‌های انطباق (Compliance) شما را بالا می‌برد یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.