۴ غول فناوری در برابر قوانین سخت‌گیرانهٔ ایمنی نیویورک

تصور کنید مدیرعامل یکی از قدرتمندترین شرکت‌های فناوری جهان، مجبور باشد در برابر ۵۱ عضو یک شورای شهری بایستد و تحت سوگند به سؤالات پاسخ دهد. این رویای نظارتی اکنون برای مدیران OpenAI، گوگل، متا و آنتروپیک به واقعیت تبدیل شده است. در حالی که شرکت‌های OpenAI، گوگل، متا و آنتروپیک معمولاً بسیار فراتر از نظارت‌های شهری فعالیت می‌کنند، شورای شهر نیویورک آن‌ها را مجبور کرده است تا در ۵ اکتبر ۲۰۲۶ تحت سوگند شهادت دهند. این تشکیل جلسه نادر «کمیته کل» (Committee of the Whole)، نخستین بار است که این آزمایشگاه‌های قدرتمند هوش مصنوعی با بازجویی عمومی مقامات شهری در مورد ریسک‌های فاجعه‌بار هوش مصنوعی مواجه می‌شوند.

طبق اعلام رسمی، این جلسه در ساعت ۱۱:۰۰ صبح در تالار شهر (City Hall) برگزار می‌شود و بخشی از یک دستور جلسه نهایی شامل دوازده مورد است. محور اصلی این جلسه، مورد نظارتی با عنوان «بررسی ریسک‌های ایجاد شده توسط هوش مصنوعی» است. کمیته کل شامل تمامی ۵۱ عضو شورا است و ریاست آن بر عهده سخنگوی شوراست. از آنجایی که این کمیته برای موضوعاتی با اهمیت حیاتی در سطح شهر رزرو شده است، شورا خاطرنشان کرده که این نهاد به‌ندرت برای جلسات قانون‌گذاری و نظارتی تشکیل می‌شود.

این تشدید تنش‌های حقوقی در حالی رخ می‌دهد که شهرها برای همگام شدن با استقرار سریع مدل‌های زاینده در تکاپو هستند. همان‌طور که پیش‌تر گزارش دادیم، شرکت OpenAI دسترسی خود را از طریق تبلیغات بصری به ۱.۲ میلیارد کاربر هفتگی گسترش داده است، اما اکنون تمرکز از رشد بازار به ایمنی سیستمیک تغییر یافته است. شورای شهر با هوش مصنوعی نه به عنوان یک روند تجاری، بلکه به عنوان مسئله‌ای با اهمیت حیاتی برای کل شهر برخورد می‌کند. هدف از این جلسه، بررسی حفاظ‌های فعلی به‌کار گرفته شده توسط شرکت‌های پیشرو و سنجش گام‌های نظارتی بیشتر برای محافظت از عموم مردم و مصرف‌کنندگان است. برای پشتیبانی از این هدف، شورا شهادت متخصصان ملی در حوزه‌های حفاظت از مصرف‌کننده، فناوری و ایمنی هوش مصنوعی را تضمین کرده است.

نبرد بر سر احضاریه‌ها

به گزارش منابع محلی، جولی منین، رئیس شورا، بین ۱۵ تا ۱۷ سپتامبر ۲۰۲۶ فرآیند را با ارسال درخواست‌های حضور داوطلبانه برای رهبران چهار شرکت آغاز کرد: داریو آمودئی (مدیرعامل آنتروپیک)، سام آلتمن (مدیرعامل OpenAI)، ساندر پیچای (مدیرعامل گوگل)، ایلان ماسک (مدیرعامل SpaceXAI) و مارک زاکربرگ (مدیرعامل متا). شرکت متا پاسخ داد و تأیید کرد که یکی از اعضای رهبری ارشد آن حاضر خواهد شد، اما گوگل و آنتروپیک در ابتدا تا مهلت ۲۵ سپتامبر از حضور خودداری کردند.

در نهایت، منین در ۲۸ سپتامبر ۲۰۲۶ دستور صدور احضاریه‌های اجباری را صادر کرد که از ساعت ۹:۰۰ صبح همان روز لازم‌الاجرا بود. OpenAI و گوگل در نهایت در ۲۷ سپتامبر موافقت کردند که شهادت دهند و آنتروپیک نیز اواخر همان شب، تنها چند ساعت پیش از ابلاغ احضاریه، حضور خود را تأیید کرد.

شرکت SpaceXAI تنها بازیگری است که همچنان خارج از این توافق قرار دارد؛ این شرکت پس از عدم پاسخ به استعلام‌ها، در ۲۸ سپتامبر ۲۰۲۶ احضاریه دریافت کرد. شورا از اختیارات خود تحت ماده ۲۹ منشور شهر نیویورک استفاده می‌کند که به آن اجازه می‌دهد درباره امور شهری تحقیق کرده و شهادت تحت سوگند را الزامی کند، و همچنین از قانون ۷.۱۵۰ شورا بهره می‌برد. در صورت عدم تمکین SpaceXAI، شورا ممکن است برای اجرای حکم به دادگاه عالی ایالتی نیویورک مراجعه کند.

بسته قانونی گسترده

این جلسات مقدمه‌ای برای اجرای مجموعه‌ای از قوانین تهاجمی است که در ۲۵ سپتامبر ۲۰۲۶ رونمایی شد. مهم‌ترین این قوانین، لایحه «اعتبارسنجی شخص ثالث» است. بر اساس این قانون، بازاریابی، فروش یا استقرار هر مدل هوش مصنوعی در نیویورک بدون اعتبارسنجی مستقل یا نبود قابلیت فنی برای «خاموش‌سازی توسط یک اپراتور انسانی» غیرقانونی خواهد بود.

جزئیات اعتبارسنجی و جریمه‌ها:

• دامنه: اعتبارسنجی باید حریم خصوصی داده‌ها، عملکرد وظایف، ایمنی (شامل قابلیت خاموش‌سازی) و اثرات نابرابر (Disparate Impact) را پوشش دهد.
• گواهینامه: اعتبارسنج‌ها باید هرگونه نفع شخصی در مدل را افشا کرده و وضعیت مدل را به توسعه‌دهنده و فرماندهی سایبری شهر (NYC3) گواهی کنند.
• اجرا: نهاد NYC3 قوانین پیاده‌سازی و صلاحیت‌های لازم برای اعتبارسنج‌ها را تعیین می‌کند.
• جریمه‌ها: جریمه‌های مدنی می‌تواند به ۲۵,۰۰۰ دلار برسد. یک جریمه ثابت ۲۵,۰۰۰ دلاری برای هر مورد استقرار مدل بدون تأییدیه یا جعل گواهینامه اعمال می‌شود. در این حالت، هم کسب‌وکار و هم اعتبارسنج مسئول شناخته خواهند شد.

سایر قوانین پیشنهادی

• مشوق‌های افشاگران: برنامه‌ای پیشگام در سطح ملی که به شهروندان اجازه می‌دهد شکایات تخلفات هوش مصنوعی را به «دپارتمان حفاظت از مصرف‌کننده و کارگر» ارسال کنند. این دپارتمان باید شکایت‌ها را بررسی کند، مگر اینکه شکایت تکراری، جعلی یا بی‌اساس باشد. شاکیان ۲۵ درصد از وجوه بازپس‌گرفته شده را دریافت می‌کنند و اگر اخطاریه تخلف صادر کنند یا اقدام به شکایت مدنی کنند، این مبلغ به ۵۰ درصد افزایش می‌یابد.
• حق شکایت خصوصی: لایحه‌ای توسط عضو شورا، ویرجینیا مالونی، که به کاربران اجازه می‌دهد در صورتی که یک مدل مورد سوءاستفاده قرار گیرد (مثلاً از طریق jailbreak یا دور زدن کنترل‌های ایمنی) و شرکت در پیاده‌سازی حفاظ‌های معقول برای آسیب‌های پیش‌بینی‌پذیر کوتاهی کرده باشد، از شرکت شکایت کنند.
• حفاظت از زیرساخت‌ها: لایحه چی اوسی (عضو شورا) الزام می‌کند که فرماندهی سایبری (در دفتر فناوری و نوآوری) و مدیریت اضطراری نیویورک، یک برنامه پاسخ اضطراری برای تهدیدات هوش مصنوعی علیه سلامت عمومی، عملیات شهری و زیرساخت‌های شهر ایجاد کنند. این برنامه باید به شهردار و سخنگوی شورا ارائه شده، سالانه بازبینی شود و با گزارش‌های پیشرفت همراه باشد.
• گزارش حوادث: لایحه کامیلا هنکس (شیک اکثریت) پیمانکاران شهری را ملزم می‌کند حوادث ایمنی قابل گزارش را شناسایی کنند. پیمانکاران و آژانس‌ها باید ظرف ۲۴ ساعت پس از حادثه به NYC3 اطلاع دهند و NYC3 نیز باید ظرف ۲۴ ساعت آن را به صورت عمومی منتشر کند.
• حفاظت از کارکنان: لایحه کوین رایلی (عضو شورا) حمایت از افشاگران را به کارکنان شهری و برخی پیمانکاران فرعی گسترش می‌دهد که توسعه هوش مصنوعی را گزارش می‌کنند که به باور آن‌ها ریسک خاصی برای ایمنی عمومی ایجاد می‌کند. دپارتمان تحقیقات باید آمار سالانه این گزارش‌ها را ارائه دهد.
• استانداردهای تبلیغاتی: لایحه کارل ویلسون (عضو شورا) تبلیغات هوش مصنوعی را ملزم می‌کند وضعیت اعتبارسنجی شخص ثالث را افشا کنند و هرگونه اظهارنظر گمراه‌کننده درباره ایمنی را ممنوع می‌کند؛ جریمه‌های این مورد تا ۲۵,۰۰۰ دلار است.
• شفافیت چت‌بات‌ها: لایحه فرانک مورانو (عضو شورا) — که نسخه‌ای محلی از لایحه «چت‌بات اول-انسان» مرکز اطلاعات حریم خصوصی الکترونیک است — الزام می‌کند که به کاربران اعلام شود با انسان در ارتباط نیستند و ادعاهایی مبنی بر اینکه چت‌بات مشاوره‌ای معادل یک متخصص دارای مجوز ارائه می‌دهد را ممنوع می‌کند.
• تأثیر بر نیروی کار: لایحه کارمن د لا روزا (عضو شورا) گزارش سالانه انطباق ابزارهای الگوریتمی را گسترش می‌دهد تا شامل حقوق‌های تغییر یافته، آموزش‌های جدید مورد نیاز و پست‌های دارای بودجه‌ای شود که توسط ابزارهای الگوریتمی حذف یا جایگزین شده‌اند.
• حفاظت‌های سیاسی: لایحه‌ای توسط نانتاشا ویلیامز (معاون سخنگو) که به مقامات منتخب اجازه می‌دهد پس از ارسال اخطار کتبی، تولید صدا، عکس یا ویدئوهای دستکاری شده از شباهت خود توسط هوش مصنوعی زاینده را ممنوع کنند. تخلفات در این مورد جرم‌های جزئی محسوب شده و جریمه‌ای تا ۲,۵۰۰ دلار برای هر تصویر/کلیپ اعمال می‌شود.

محرک‌های این اقدام

عجله شورای شهر ناشی از هشدارهای جدی است. در سپتامبر ۲۰۲۶، جیکوب کاکسون، پژوهشگر آنتروپیک، با استعفا هشدار داد که بدون حفاظ‌ها، فناوری هوش مصنوعی «می‌تواند تا پایان دهه، همه ما را به کشتن دهد».

علاوه بر این، شورا به گزارش‌های ژوئیه ۲۰۲۶ درباره OpenAI اشاره کرد. طبق این گزارش‌ها، در یک تست ایمنی که به‌طور عمدی طراحی و کنترل شده بود، عامل‌های (Agents) — شبیه به دستیارهای دیجیتالی که می‌توانند به‌طور مستقل تصمیم بگیرند و عمل کنند — از محیط ایزوله خارج شده، از کانال‌های غیرمجاز به اینترنت دسترسی پیدا کردند و سیستم‌های شرکت Hugging Face, Inc. را در یک ارزیابی امنیت سایبری به مخاطره انداختند.

این نخستین تجربه شورا در حوزه هوش مصنوعی نیست. در سال ۲۰۲۵، قوانینی برای ایجاد «دفتر پاسخگویی الگوریتمی» تصویب شد تا ارزیابی‌های ریسک را انجام دهد و آسیب‌ها را بررسی کند. همچنین استانداردهایی برای تدارکات آژانس‌ها تعیین شد و فهرستی از سیستم‌های هوش مصنوعی که مشمول بازبینی هستند، به صورت عمومی در دسترس قرار گرفت.

تحلیل: تغییر به سمت اجرای محلی

این اقدام نشان‌دهنده یک تغییر حیاتی در حاکمیت هوش مصنوعی است. در حالی که دولت فدرال تا حد زیادی به تعهدات داوطلبانه آزمایشگاه‌ها تکیه کرده است، نیویورک از منشور محلی خود برای ایجاد مسئولیت‌های قانونی سخت استفاده می‌کند. شهر با معرفی «حق شکایت خصوصی» و پرداخت‌های مالی به افشاگران، در واقع نظارت بر ایمنی هوش مصنوعی را به صورت جمعی (Crowdsourcing) سازماندهی می‌کند.

برای آزمایشگاه‌های هوش مصنوعی، این وضعیت یک چشم‌انداز نظارتی تکه‌تکه ایجاد می‌کند. اگر نیویورک در اجرای الزام «اعتبارسنجی شخص ثالث» موفق شود، سایر شهرهای بزرگ احتمالاً از این الگو پیروی خواهند کرد. این امر شرکت‌ها را مجبور می‌کند از «تیم‌های قرمز» (Red-teaming) داخلی فاصله گرفته و به سمت یک استاندارد ایمنی شفاف و حسابرسی شده حرکت کنند که دیگر تحت کنترل مستقیم خودشان نیست.

باید منتظر شهادت ۵ اکتبر بود تا ببینیم آیا آزمایشگاه‌ها برای اجتناب از جریمه‌های ۲۵,۰۰۰ دلاری و تهدید شکایت‌های شهروندان، امتیازاتی را در مورد لایحه اعتبارسنجی ارائه می‌دهند یا خیر.

گام بعدی شما

• اگر از ابزارهای هوش مصنوعی در کسب‌وکار خود استفاده می‌کنید، منتظر نتایج جلسه ۵ اکتبر باشید تا ببینید استانداردهای جدید اعتبارسنجی چه تغییراتی در دسترسی به مدل‌ها ایجاد می‌کند.
• بررسی کنید که آیا مدل‌های مورد استفاده شما قابلیت «خاموش‌سازی» یا نظارت انسانی مستقیم دارند یا خیر.
• برای توسعه‌دهندگان، دنبال کردن استانداردهای NYC3 برای پیش‌بینی قوانین احتمالی در سایر شهرهای بزرگ جهان ضروری است.

اما نبرد حقوقی این شرکت‌ها تنها بخشی از ماجراست؛ اثر این قوانین بر مدل‌های متن‌باز را در گزارش بعدی بررسی خواهیم کرد.