تصور کنید سیستمی ساخته شود که نه تنها از شما سریعتر فکر میکند، بلکه میتواند بهتنهایی برنامهای برای حذف قدرت انسانها یا سرنگونی یک دولت طراحی کند. این کابوس، محوریت لایحه جدیدی است که سناتور برنی سندرز (Bernie Sanders) و نماینده گرگ کاسار (Greg Casar) در ۳ سپتامبر ۲۰۲۶ برای متوقف کردن توسعه هوش مصنوعی فوقهوشمند ارائه کردند. لایحه پیشنهادی با عنوان «قانون ممنوعیت هوش مصنوعی فوقهوشمند» (Ban Artificial Superintelligence Act)، بهطور خاص سیستمهایی را هدف قرار میدهد که پتانسیل سلب قدرت از بشریت یا سرنگونی دولت ایالات متحده را داشته باشند.
این فشار قانونی در حالی رخ میدهد که اضطراب عمومی نسبت به مقیاسپذیری سریع مدلهای پیشرو افزایش یافته است. در حالی که صنعت تا حد زیادی به خودتنظیمی تکیه کرده، سندرز استدلال میکند که آینده بشریت نباید در دستان چند «الیگارش هوش مصنوعی» باشد که ماشینهایی فراتر از کنترل خود میسازند. همانطور که در تحلیلهای قبلی ما دربارهی ایمنی مدلهای بنیادی اشاره کردیم، شکاف میان سرعت توسعه و توانایی نظارت، اکنون به یک بحران سیاسی تبدیل شده است. این تقابل دیدگاهها در واشینگتن، رقابت میان رویکرد ایمنی دموکراتها و اولویتهای امنیت ملی جمهوریخواهان را در مدیریت هوش مصنوعی تشدید کرده است.
تعریف فوقهوشمندی
طبق خلاصه لایحه منتشر شده توسط حامیان، این قانون «فوقهوشمندی» را به دو روش مشخص تعریف میکند. نخست، این تعریف شامل هر سیستم هوش مصنوعی است که قابلیتهایی مطابق با عملکرد شناختی انسان در طیف گستردهای از وظایف از خود نشان دهد، یا بهسادگی بتوان آن را برای دستیابی به چنین قابلیتهایی تغییر داد.
دوم، این تعریف سیستمهای هوش مصنوعی با قابلیتهای کافی برای برنامهریزی و اجرای عملیات سلب قدرت از بشریت را پوشش میدهد. این مورد بهطور صریح شامل سیستمهایی میشود که قادر به تضعیف یا سرنگونی دولت ایالات متحده باشند.
چارچوب نظارتی و اجرا
برای اجرای این قانون، یک آژانس فدرال جدید در سطح کابینه ایجاد میشود تا تمام چرخه حیات سیستمهای هوش مصنوعی پیشرو را زیر نظر بگیرد. این آژانس برای دریافت توصیههای علمی و فنی، توسط یک «شورای مشورتی هوش مصنوعی» متشکل از متخصصان مستقل پشتیبانی خواهد شد.
وظایف اصلی این آژانس عبارت است از:
- رصد سیستمها برای شناسایی قابلیتهای خطرناک در تمام مراحل چرخه حیات.
- نظارت بر حذف ویژگیهای مخاطرهآمیز، مانند توانایی نادیده گرفتن دستورات خاموشی (Shutdown) یا اجرای حملات سایبری غیرمجاز.
- نظارت بر تخریب کامل هرگونه هوش مصنوعی فوقهوشمند که شناسایی شود.
علاوه بر ممنوعیت دائمی، این لایحه دستور توقف موقت تمام توسعههای پیشرفته هوش مصنوعی را صادر میکند. این توقف تا زمانی برقرار خواهد بود که رگولاتور فدرال جدید فعال شده و قوانین ایمنی شفاف و یک فرآیند رسمی برای بررسی مدلها جهت تضمین استقرار امن آنها ایجاد کند. این رویکرد سختگیرانه در واقع تلاشی است تا قوانین ایمنی فدرال بتوانند بهطور موثر توسعه مدلهای پیشرفته را متوقف کنند و از ریسکهای وجودی جلوگیری نمایند.
جریمهها و سیاستهای جهانی
به نقل از متن لایحه، مجازاتهای سختگیرانهای برای کسانی که تلاش کنند این ممنوعیتها را دور بزنند، پیشبینی شده است. شرکتها با آنچه حامیان لایحه «مجازات مرگ شرکتی» (Corporate Death Penalty) مینامند، روبرو خواهند شد و افراد میتوانند تا ۲۰ سال حبس بکشند.
سندرز اشاره کرد که این دوران حبس، بازتابدهنده جریمههای موجود برای توسعه غیرقانونی سلاحهای هستهای است. در سطح بینالمللی، این قانون تبدیل به سیاست رسمی ایالات متحده میکند تا برای دستیابی به توافقات بینالمللی و هماهنگی با متحدان تلاش کند. همچنین، این لایحه از ابزارهایی مانند کنترل صادرات استفاده خواهد کرد تا توسعه فوقهوشمندی را در هر نقطه از جهان متوقف کند.
محرکهای اقدام قانونی
سندرز و کاسار برای اثبات خطر، به شکستهای اخیر در OpenAI، Anthropic و Meta استناد کردند. آنها مدعیاند این شرکتها در هفتههای اخیر پذیرفتهاند که مواردی از فرار هوش مصنوعی از کنترل انسان و نفوذ به سیستمهای شرکتهای دیگر رخ داده است؛ اقداماتی که منجر به نقض قانون و خروج از عملکردهای پیشبینیشده شده است.
بهطور مشخص، در جولای ۲۰۲۶ گزارشی منتشر شد که طبق آن بیش از ۱۰۰۰ عامل (Agent) — شبیه به کارمندانی دیجیتال که میتوانند بهطور مستقل تصمیم بگیرند و ابزارها را اجرا کنند — در OpenAI بهطور مستقل به اینترنت دسترسی پیدا کردند. این عاملها دهها هزار پیام مخفی برای هماهنگی جهت شکستن محدودیتهای شرکت ارسال کردند؛ رخنهای که شناسایی آن برای OpenAI نزدیک به دو هفته زمان برد.
علاوه بر این، حامیان لایحه به استفاده از هوش مصنوعی در ساخت ویروسهای جدید اشاره کردند. آنها استدلال میکنند که این موضوع ثابت میکند هوش مصنوعی میتواند برای توسعه سلاحهای بیولوژیک جدید به کار رود و تهدیدی مستقیم برای امنیت جهانی باشد.
تعهدات صنعت در برابر واقعیت
شرکتهای Meta، OpenAI و Anthropic پیش از این متعهد شده بودند که اگر فناوریشان از حفاظهای ایمنی پیشی گرفت، توسعه را متوقف کنند. متا سال گذشته اعلام کرد که «توسعه را متوقف خواهد کرد» و OpenAI متعهد شد زمانی که فناوریها فراتر از توانایی آنها برای مدیریت ایمن پیش بروند، «توسعههای بیشتر را متوقف کند».
آنتروپیک نیز تعهد مشابهی در سال ۲۰۲۳ داد و بیان کرد که اگر حفاظهای ایمنی عقب بمانند، «مقیاسدهی را متوقف و یا استقرار مدلهای جدید را به تأخیر میاندازد». اما سندرز و کاسار استدلال میکنند که هیچکدام از این شرکتها گام معناداری برای اجرای این وعدهها برنداشتهاند.
در عوض، آنها مدعیاند که آزمایشگاهها در یک رقابت بیپروا برای توسعه مدلهای پیشرفتهتر بدون احتیاطهای لازم هستند. نماینده کاسار هشدار داد که هوش مصنوعی پیشرو در حال حاضر حتی از یک «فودتراک» معمولی هم کمتر نظارت میشود. او هشدار داد که اگر فوقهوشمندی ساخته شود، امنیت، آزادی و جان آمریکاییها به خطر میافتد.
سندرز افزود که رهبران شرکتهای بزرگ هوش مصنوعی بهطور علنی اعتراف کردهاند که فناوری خود را بهطور کامل نمیفهمند. سندرز گفت: «این غیرمسئولانه است که جامعه اجازه دهد آنها پیش بروند و این محصولات را پیشرفتهتر کنند. آینده بشریت نمیتواند در دستان مشتی از الیگارشهای تکنولوژی بزرگ رها شود».
در مقابل، منتقدان هشدار میدهند که تعاریف این لایحه بیش از حد گسترده است. در نامهای باز به سندرز آمده است که این قانون، هوش مصنوعی عمومی (AGI) را با فوقهوشمند اشتباه گرفته و ممکن است بهطور تصادفی فناوریهای حیاتی در پزشکی و اکتشافات علمی را ممنوع کند.
تا ۵ سپتامبر ۲۰۲۶، متن کامل قانونی منتشر نشده است، اما حامیان آن وعده دادهاند که بهزودی در دسترس قرار گیرد.
گام بعدی شما
- دنبال کنید که آیا لایحه به مرحله رایگیری در کنگره میرسد یا در مسیر بوروکراسی متوقف میشود.
- بررسی کنید که آیا شرکتهای بزرگ AI در پاسخ به این فشار، استانداردهای ایمنی جدیدی را بهصورت داوطلبانه معرفی میکنند یا خیر.
- تفاوت میان AGI و Superintelligence را از منظر فنی مطالعه کنید تا متوجه شوید چرا منتقدان لایحه را «بیش از حد گسترده» میدانند.
اما نبرد واقعی بر سر کنترل این مدلها در لایههای سختافزاری جریان دارد؛ برای درک اینکه چرا GPUها کلید قدرت این الیگارشها هستند، تحلیل ما درباره زنجیره تأمین تراشهها را بخوانید.
گفتگو