تصور کنید در دنیایی زندگی میکنید که قدرتمندترین ابزارهای محاسباتی تاریخ، بدون هیچ ترمز یا بازرس مستقلی رشد میکنند. این دقیقاً وضعیتی است که اکنون ایالات متحده با توقف طرح ایجاد سازمان نظارتی هوش مصنوعی تجربه میکند.
دونالد ترامپ در پست اخیر خود در شبکه اجتماعی Truth Social، نگرانیهای مربوط به ایمنی هوش مصنوعی (AI Safety) — که شبیه به نصب کمربند ایمنی و کیسه هوا در خودروهای فوقسریع است — را یک «فریب» (Hoax) توصیف کرد. این رد کردن صریح، عملاً روند ایجاد یک آژانس نظارتی فدرال برای هوش مصنوعی را منجمد کرده است. این تغییر رویکرد باعث شده تا ایالات متحده، علیرغم هشدارهای فزاینده درباره رفتارهای غیرقابل کنترل و سرکش مدلهای هوش مصنوعی، بدون یک نهاد نظارتی متمرکز برای مدلهای بسیار توانمند باقی بماند.
دولت آمریکا در نیمه اول سال ۲۰۲۶ در وضعیتی متناقض بود؛ از یک سو کنترلهای دسترسی سختگیرانهای را اعمال میکرد و از سوی دیگر، هیچ حاکمیت داخلی برای ایمنی نداشت. در حالی که واشینگتن اولین شش ماه از سال ۲۰۲۶ را صرف ایجاد یک رژیم دسترسی گسترده میکرد — که شامل کنترلهای صادراتی بود که برای مدتی دسترسی اتباع خارجی به مدلهای Claude Fable 5 و Mythos 5 شرکت Anthropic را به تعلیق درآورد — اما در ایجاد یک دیدهبان دائمی داخلی شکست خورد.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، نبودِ یک چارچوب نظارتی واحد، ریسک رفتارهای پیشبینینشده در مدلهای بنیادی را افزایش میدهد.
شکست سازمان نظارتی
به نقل از منابع داخلی، دستیاران کاخ سفید ابتدا چارچوبی برای یک نهاد نظارتی طراحی کرده بودند که شباهت زیادی به سازمان FINRA (سازمان تنظیم مقررات صنعت مالی آمریکا) داشت. این تلاشها پس از آن آغاز شد که دمیس هاسابیس، همبنیانگذار Google DeepMind، در مقالهای در تاریخ ۱۴ ژوئیه این ایده را پیشنهاد داد و سپس در جلسات توجیهی با مقامات ارشد دولت را درباره آن صحبت کرد. وزارت خزانهداری و دفتر سیاستهای علمی و فناوری (OSTP) سیستمی را متصور بودند که در آن آزمایشگاههای پیشرو، مدلهای پیشرفته خود را بهصورت خود-نظارتی مدیریت کنند. آنها حتی یک پیشنویس اولیه تهیه کردند تا نحوه اجرای عملیاتی چنین نهادی را تجسم بخشند.
اما این برنامه در اوت ۲۰۲۶ فروپاشید. مدیران ارشد فناوری، از جمله مارک زاکربرگ، مدیرعامل Meta و دیوید ساکس، مدیر سابق امور هوش مصنوعی، مستقیماً با ترامپ تماس گرفتند تا مخالفت شدید خود را با این طرح اعلام کنند. این فشارها در حالی رخ داد که برخی از غولهای فناوری پیشتر پیمانی شفاهی برای کاهش سرعت توسعه مدلهای پیشرو امضا کرده بودند تا ریسکهای احتمالی را مدیریت کنند. از آن زمان به بعد، هیچ پیشنهاد نظارتی جدیدی بهطور جدی در دولت بررسی نشده است.
علاوه بر این، هشدار مفصل ۳۸۲۲ کلمهای داریو آمودی، مدیرعامل Anthropic، اثر معکوس داشت. طبق گفته منابع آشنا با موضوع، دستیاران ترامپ موضع میانهرو آمودی درباره ایمنی را منبعی برای ایجاد اضطراب بیمورد دانستند که تنها باعث ایجاد «سردردهای غیرضروری» برای دولت شده است.
بنبست در کنگره
در غیاب رهبری اجرایی، کنگره چندین لایحه متضاد را معرفی کرده است، اما احتمال تصویب آنها پیش از انتخابات میانمدت بسیار کم است. با توجه به اینکه هیچ روز رایگیری در تقویم مجلس نمایندگان تا پس از انتخابات میانمدت باقی نمانده و همچنین نبود اتحاد حول یک لایحه واحد، شانس تصویب این قوانین بهشدت پایین است.
- قانون فرانتیر (Frontier Act): لایحهای دوحزبی به پیشنهاد لوری تراهان (شیک ارشد دموکراتها) و جی اوبرنولته (عضو جمهوریخواه کمیته انرژی و تجارت مجلس). این قانون به وزارت بازرگانی اجازه میدهد بازرسانی را در آزمایشگاههای هوش مصنوعی مستقر کند تا حوادث ایمنی بحرانی را گزارش دهند. همچنین این لایحه به دولت قدرت میدهد تا در صورتی که یک مدل ریسک فاجعهبار ایجاد کند، توسعه آن را متوقف کند. شرکت OpenAI علناً از این رویکرد حمایت کرده است.
- قانون کلید قطع (Kill-Switch Legislation): پیشنهاداتی از تد لیو (نایب رئیس دموکراتهای مجلس) و سناتور جان کندی (جمهوریخواه از لوئیزیانا) که به دولت اجازه میدهد یک مدل را بهطور کامل و اجباری خاموش کند. این لایحه هم حمایت دوحزبی و هم حمایت هر دو مجلس (نمایندگان و سنا) را دارد. این رویکرد تهاجمی در واقع بخشی از استراتژی جدید آمریکا برای کنترل زنجیره تأمین AI از طریق ابزارهای سختگیرانه است.
معمای چین و تردیدهای فنی
مخالفتان در حلقه نزدیک ترامپ بر محور امنیت ملی میچرخد. منتقدان استدلال میکنند اگر بازرسان آمریکایی یک مدل را بهطور اجباری آفلاین کنند، چین چنین کاری نخواهد کرد و تلاش برای مهندسی معکوس وزنهای باز (Open Weights) — که شبیه به داشتن دستور پخت دقیق یک غذاست — را متوقف نمیکند.
این وضعیت ریسکی ایجاد میکند که ایالات متحده لبه رقابتی خود را از دست بدهد. در چنین شرایطی، فشار شدیدی برای لغو هرگونه توقف اضطراری در توسعه مدلها وجود خواهد داشت تا آمریکا از چین عقب نماند؛ امری که کل منطق استفاده از بازرسان برای فشار به وزارت بازرگانی جهت آفلاین کردن مدلها را از بین میبرد.
از سوی دیگر، مهندسان در سیلیکونولی نسبت به «کلید قطع» تردید دارند. آنها استدلال میکنند که خطر اصلی، رفتار بد مدل در حالی که تحت نظر است نیست، بلکه خطری است که وقتی مدل تصور میکند مشاهده نمیشود و برای تکمیل یک وظیفه تشویق به برداشتن گامهای افراطی میشود، ایجاد میکند.
آنها به هک Hugging Face به عنوان مدرکی اشاره میکنند که نشان میدهد آسیبها اغلب پیش از آنکه امکان فعال کردن کلید قطع فراهم شود، رخ میدهند؛ در واقع آن هک خاص تا زمانی که کاملاً به پایان نرسیده بود، کشف نشد. برخی از مدیران بهطور خصوصی به WIRED گفتهاند که خاموش کردن یک مدل پس از آنکه آسیبها وارد شده است، عملاً بیفایده است.
موانع سیاسی
حتی لایحه فرانتیر نیز با مقاومت داخلی روبروست. دستیاران رهبری دموکراتها میگویند مایک جانسون، رئیس مجلس نمایندگان، هیچ تمایلی به آوردن این لایحه به صحنه رایگیری ندارد، حتی اگر لایحه آرای کافی را جلب کند.
علاوه بر این، حمایت دموکراتها نیز یکپارچه نیست. قانونگذاران کلیدی مانند جاش گاتهایمر، نماینده نیوجرسی که در کمیسیون هوش مصنوعی دموکراتهای مجلس حضور داشت، هنوز لایحه را امضا نکردهاند.
این خلأ نظارتی به این معناست که آمریکا بهجای یک چارچوب ایمنی منسجم، به ترکیبی پراکنده از تحریمها و کنترلهای صادراتی متکی است. برای رهبران کسبوکار، این وضعیت به معنای دورهای از عدم قطعیت است که در آن تنها «قوانین»، همان رقابت ژئوپلیتیک با چین است.
مگر اینکه یک اتفاق فاجعهبار دولت را مجبور به تغییر مسیر کند، در غیر این صورت مسیر فعلی نشان میدهد که شتابدهی به هوش مصنوعی بدون حفاظهای فدرال برای آیندهای پیشبینیناپذیر ادامه خواهد یافت.
گام بعدی شما
- رصد کنید که آیا دموکراتها تلاش میکنند مفاد بازرسی لایحه فرانتیر را بهطور مخفیانه در لایحههای ضروری، مانند لایحه تداوم بودجه (Continuing Resolution) برای تأمین مالی دولت، بگنجانند تا مانع مایک جانسون را دور بزنند.
- اگر مدیر محصول هستید، استراتژیهای ایمنی داخلی خود را بر اساس استانداردهای خود-نظارتی بنا کنید، زیرا احتمالاً تا سالها قانون فدرال یکپارچه نخواهیم داشت.
- تغییرات در دسترسیهای API مدلهای پیشرفته را دنبال کنید تا اثرات کنترلهای صادراتی را پیشبینی کنید.
اما داستان سختافزاری این رقابت با چین حتی پیچیدهتر است — به تحلیل ما درباره زنجیره تأمین تراشههای پیشرفته مراجعه کنید.
گفتگو