اگر امروز ابزارهای هوش مصنوعی را در کسب‌وکارتان ادغام می‌کنید، باید بدانید که «ایمنی» این ابزارها بر پایه اعتماد است، نه قانون. در واقع شما به‌جای یک استاندارد تأییدشدهٔ دولتی، به اخلاقیات داخلی چند مدیرعامل در سیلیکون‌ولی تکیه کرده‌اید.
طبق اعلام رسمی، دونالد ترامپ و چندین مدیرعامل شرکت‌های هوش مصنوعی در روز سه‌شنبه ۱ اکتبر ۲۰۲۶ توافق‌نامه‌ای برای ایمنی هوش مصنوعی امضا کردند. اما این توافق فاقد هرگونه مکانیسم اجرایی فدرال است. به‌جای نظارت دولتی، این پیمان عملاً صنعت را به خود-تنظیمی می‌سپارد و به‌طور کامل به همکاری داوطلبانه آزمایشگاه‌های درگیر متکی است. این رویکرد یادآور دیدگاه برخی از رهبران صنعت است که معتقدند نظارت بر هوش مصنوعی بیش از آنکه یک مسئله قانونی باشد، یک چالش مهندسی است؛ موضوعی که در تحلیل ما درباره مخالفت جنسن هوان با قوانین سخت‌گیرانه به تفصیل بررسی شده است.
این رویکرد در زمانی رخ می‌دهد که اقتصاد آمریکا به‌شدت به بخش هوش مصنوعی وابسته شده است. این وابستگی یک چرخه سرمایه‌گذاری بسته ایجاد کرده است — که به عنوان «اوروبوروس معاملات مالی» (ماری که دم خود را می‌بلعد) توصیف شده است — به‌طوری که هرگونه مقررات سخت‌گیرانه و برخورد شدید می‌تواند ریسک بزرگی ایجاد کند. هرگونه اقدام جدی برای محدود کردن این صنعت می‌تواند باعث بی‌ثباتی گسترده‌ای شود که اثرات آن بسیار فراتر از مرزهای سیلیکون‌ولی خواهد بود.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تضاد میان سرعت رشد و ایمنی همواره یک نقطه ضعف است. برای درک خطر این نظارت داوطلبانه، می‌توان به بحران بزرگراه‌های سال ۱۹۶۶ در آمریکا نگاه کرد. در آن زمان سالانه نزدیک به ۵۱ هزار نفر در جاده‌ها می‌مردند. شواهد نشان می‌داد که کمربندهای ایمنی مدرن می‌توانستند جان بسیاری از این افراد را نجات دهند، اما صنعت خودرو به‌صورت داوطلبانه آن‌ها را نصب نکرد.
تغییر تنها زمانی رخ داد که کنگره مداخله کرد. در پاییز ۱۹۶۶، کنگره وزارت حمل‌ونقل را تأسیس کرد و هر دو قانون «ایمنی بزرگراه‌ها» و «ایمنی ملی ترافیک و وسایل نقلیه موتوری» را به تصویب رساند. این قوانین به دولت فدرال اختیارات گسترده‌ای برای تعیین استانداردهای ایمنی داد. در نهایت تا سال ۱۹۶۸، نصب کمربند ایمنی در هر خودروی جدید اجباری شد.
به گزارش Wired، توافق فعلی هوش مصنوعی تا حد زیادی مجموعه‌ای از مفاد است که انتظار می‌رود آزمایشگاه‌ها به‌تنهایی از آن‌ها پیروی کنند. ترامپ در جلسه روز چهارشنبه در دفتر بیضی شکل صراحتاً بیان کرد که شرکت‌ها «یکدیگر را کنترل خواهند کرد» و «خود-نظارتی» می‌کنند و افزود: «این روش بسیار خوب پیش خواهد رفت».
در حالی که چهره‌هایی مثل بیل گیتس در رسانه‌ها نقش «کاساندرا» (پیشگوی فجایع) را بازی می‌کنند و با حملات رسانه‌ای گسترده از یک آخرالزمان هوش مصنوعی هشدار می‌دهند، استراتژی دولت در حداقل سطح ممکن باقی مانده است. ترامپ در مصاحبه روز پنجشنبه با مجله TIME مدعی شد که وزارت دادگستری (DOJ) و FBI به عنوان حفاظ‌های کافی عمل می‌کنند. با این حال، چندین شکاف بحرانی همچنان باقی است:
- مسئولیت قانونی: مشخص نیست وقتی یک عامل (Agent) — شبیه به کارمندی دیجیتال که می‌تواند به‌تنهایی تصمیم بگیرد و عمل کند — از کنترل خارج شود یا «سرکش» شود، آیا شرکت‌های هوش مصنوعی مسئولیت قانونی خواهند داشت یا خیر؛ زیرا نمی‌توان برای خودِ عوامل هوش مصنوعی احضاریه قضایی فرستاد. در همین راسته، برخی استارتاپ‌ها تلاش می‌کنند با ایجاد لایه‌های نظارتی جدید، این مشکل را حل کنند، همان‌طور که رویکرد COGEXT برای ایجاد پاسخگویی در عامل‌های خودکار نشان می‌دهد.
- تأییدپذیری: هیچ مکانیسمی برای اطمینان از اینکه آزمایشگاه‌ها سرعت توسعه را کاهش می‌دهند یا «گام‌های پیشرو را تنظیم می‌کنند» وجود ندارد. حتی اگر آزمایشگاه‌ها با کاهش سرعت موافقت کنند، راهی برای متعهد کردن آن‌ها به حرفشان نیست.
- رقابت جهانی: هرگونه کاهش سرعت تحت رهبری آمریکا احتمالاً توسط چین نادیده گرفته می‌شود و پکن بدون توجه به توافقات واشنگتن، مسیر توسعه خود را ادامه خواهد داد.
- سنجش ریسک: برخلاف کمربند ایمنی، راهکاری ساده و مستقیم برای کاهش ریسک هوش مصنوعی یک‌شبه وجود ندارد. آسیب‌های احتمالی از «مزخرفات بازاریابی علمی-تخیلی» تا پتانسیل انقراض بشر ظرف یک دهه متغیر است.
نبود قوانین سخت، پیامدهای ملموسی در دنیای واقعی دارد. به گزارش CNN، اخیراً یک حادثه نزدیک به فاجعه رخ داد که در آن ارتش آمریکا به‌دلیل یک گزارش غلط تولیدشده توسط هوش مصنوعی، نزدیک بود به یک کشتی چینی حمله کند و وارد آن شود، زیرا گمان می‌کرد کشتی حامل مواد هسته‌ای است. هنوز مشخص نیست که توافق‌نامه ایمنی هوش مصنوعی چه دستاوردی برای جلوگیری از چنین حوادثی دارد.
حتی شرکت‌هایی که ادعای اولویت دادن به ایمنی دارند، سوابق متناقضی دارند. OpenAI انتشار پیشرفته‌ترین مدل‌های خود را به‌دلیل نگرانی‌های امنیتی به تأخیر انداخته یا لغو کرده است، اما هم‌زمان جزئیات بیشتری درباره «حملات هکری» پیشین این شرکت منتشر می‌شود.
برای یک رهبر کسب‌وکار، این بدان معناست که «ایمنی» ابزارهایی که ادغام می‌کنید بر پایه اعتماد است، نه قانون. شما اساساً به‌جای یک استاندارد تأییدشدهٔ فدرال، به اخلاقیات داخلی چند مدیرعامل در سیلیکون‌ولی تکیه کرده‌اید.
اگر دولت به سیاست «دور remaining شدن از مسیر» و عدم مداخله ادامه دهد، صنعت احتمالاً بدون تور ایمنی شتاب می‌گیرد. چارچوب فعلی بیشتر شبیه به این است که به شما بگویند «محکم بچسبید» و سپس پدال گاز را تا ته فشار دهند، به‌جای اینکه کمربند ایمنی ببندید.
باید منتظر ماند و دید آیا وزارت دادگستری واقعاً پرونده‌ای را بابت مسئولیت قانونی علیه یک آزمایشگاه AI برای آسیب‌های تولیدشده توسط مدل‌ها پیش می‌برد یا خیر؛ زیرا این اولین آزمون واقعی برای «حفاظ‌های» دولت خواهد بود.
گام بعدی شما
- در قراردادهای سطح سازمانی (Enterprise) با تأمین‌کنندگان AI، بندهای صریح مسئولیت مدنی (Liability) را اضافه کنید.
- برای کاهش وابستگی به اخلاقیات شرکت‌ها، از مدل‌های بازمتن با نظارت داخلی خودتان استفاده کنید.
- گزارش‌های وزارت دادگستری را دنبال کنید تا ببینید آیا اولین پرونده مسئولیت قانونی علیه یک آزمایشگاه AI ثبت می‌شود یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو