تصور کنید ابزاری که برای کمک به یادگیری ساخته شده، به طور مخفیانه نقش نقشه‌راهی برای یک جنایت را ایفا کند و سازنده‌اش هم از این موضوع خبر داشته باشد. این کابوس اکنون به یک نبرد حقوقی تبدیل شده است که می‌تواند تعریف «مسئولیت» را برای تمام شرکت‌های هوش مصنوعی تغییر دهد. ادعای اصلی در دادخواستی که استان بریتیش کلمبیا در ۲۱ سپتامبر ۲۰۲۶ علیه OpenAI در کالیفرنیا ثبت کرد، این است که «این شرکت نشانه‌های هشداردهنده و واضح حمله را نادیده گرفت».
این اقدام قانونی در پی تیراندازی دسته‌جمعی در مدرسه ثانویه تامبلر ریج در ۱۰ فوریه ۲۰۲۶ صورت گرفت که منجر به کشته شدن ۸ نفر شد؛ تراژدی‌ای که این استان ادعا می‌کند می‌شد از آن جلوگیری کرد. این پرونده در حالی پیش می‌رود که دولت‌ها در سراسر جهان برای تعیین مرزهای پاسخگویی آزمایشگاه‌های هوش مصنوعی در برابر استفاده از ابزارهایشان برای برنامه‌ریزی خشونت در دنیای واقعی، دست‌وپا می‌زنند. همان‌طور که در تحلیل قبلی ما درباره‌ی تلاش OpenAI برای اینکه ایالات متحده رهبری استانداردهای فنی جهانی برای هوش مصنوعی بازگشتی (Recursive AI) را بر عهده بگیرد اشاره کردیم، اکنون بحث از بنچمارک‌های فنی به پاسخگویی انسانی و امنیت عمومی تغییر جهت داده است.
زمینه تراژدی
به نقل از دادستان کل، نیکی شارما، گزارش‌های داخلی نشان می‌دهد که تیم‌های ایمنی OpenAI ماه‌ها پیش از حادثه، پرامپت‌های خشونت‌آمیز ضارب را در ChatGPT — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — شناسایی کرده بودند. با این حال، مدیریت شرکت این هشدارها را به پلیس سواره نظام سلطنتی کانادا یا مقامات محلی گزارش نکرد.
این حمله علاوه بر ۸ کشته، ۲۷ نفر دیگر را نیز مجروح کرد. از میان ۸ نفر کشته شده، یک مربی و ۵ کودک بین ۱۱ تا ۱۳ سال بودند. استان بریتیش کلمبیا در ۷ ژوئیه ۲۰۲۶ اعلام کرد که وکلایی را برای پیگیری این اقدام قانونی استخدام کرده است تا علاوه بر پاسخگویی، حمایت‌های لازم برای بازسازی جامعه، از جمله ساخت یک مرکز آموزشی جدید برای مدرسه تامبلر ریج را فراهم کند. این شکایت بخشی از یک موج گسترده‌تر از اعتراضات حقوقی است، چرا که ۳۰ شکایت جدید دیگر نیز علیه OpenAI ثبت شده است که در آن‌ها شرکت به اتهام کمک به تیراندازی‌های دسته‌جمعی مورد پیگرد قرار گرفته است.
در حالی که این پرونده پیش می‌رود، بریتیش کلمبیا همکاری نزدیکی با هیئت آموزش منطقه SD59 Peace River South دارد. شارما اظهار داشت که این شکایت سوالات جدی‌ای را در مورد مسئولیت‌های شرکت‌های فناوری مطرح می‌کند؛ به‌ویژه زمانی که آن‌ها از تهدیدات معتبر برای خشونت‌های شدید آگاه می‌شوند.
دفاع شرکت
در مقابل، OpenAI در نامه‌ای به تاریخ ۲۶ فوریه ۲۰۲۶ خطاب به ایوان سولومون، وزیر نوآوری دیجیتال و هوش مصنوعی کانادا، روایت متفاوتی ارائه داد. آن م. اولیری، معاون سیاست‌های جهانی شرکت، مدعی شد که اقدامات زیر صورت گرفته است:
- حساب کاربری ضارب در ژوئن ۲۰۲۵، پس از آنکه سیستم‌های خودکار تخلف از سیاست‌ها را شناسایی کردند و حساب برای بررسی انسانی ارسال شد، مسدود گردید.
- در آن زمان، تشخیص داده شد که این حساب به حد نصاب داخلی «برنامه‌ریزی معتبر و قریب‌الوقوع» که برای ارجاع به نهادهای اجرای قانون لازم است، نرسیده است.
- اطلاعات مربوط به حساب دوم ضارب که پیش‌تر ناشناخته بود، تنها پس از آنکه نام ضارب به طور عمومی فاش شد، با پلیس به اشتراک گذاشته شد.
اولیری پذیرفت که با پروتکل‌های گزارش‌دهی «بهبودیافته» فعلی، حساب ژوئن ۲۰۲۵ حتماً گزارش می‌شد. شرکت اکنون با متخصصان سلامت روان، متخصصان رفتاری و کارشناسان اجرای قانون همکاری می‌کند تا معیارهای ریسک خود را منعطف‌تر کند؛ به‌ویژه برای مواردی که کاربر ممکن است درباره هدف، ابزار یا زمان دقیق خشونت برنامه‌ریزی شده بحث نکند.
OpenAI متعهد به چندین اصلاح شده است، از جمله ایجاد نقاط تماس مستقیم با نیروهای انتظامی کانادا، تقویت سیستم‌ها برای شناسایی متخلفان تکراری سیاست‌ها و گسترش تلاش‌ها برای هدایت کاربرانی که در وضعیت پریشانی هستند به مراکز حمایتی محلی مانند خطوط کمک فوری.
مخاطرات قانونی و سیاست‌گذاری
بر اساس مستندات این پرونده، بریتیش کلمبیا از دفاتر حقوقی Stranch, Jennings & Garvey در کالیفرنیا (با نام بردن از لسلی ویور) و CFM Lawyers در ونکوور استفاده می‌کند. استان خاطرنشان کرد که استخدام وکلای مستقر در کالیفرنیا به آن‌ها اجازه می‌دهد تا جبران خسارات را در ایالتی که دفتر مرکزی OpenAI در آن قرار دارد، ارزیابی کنند.
این اقدام جدا از شکایت‌های موازی است که توسط خانواده‌های قربانیان در دادگاه منطقه‌ای شمالی کالیفرنیا ثبت شده است. شارما تأکید کرد که این استان هرگز از رویارویی با شرکت‌های قدرتمند، زمانی که اقدامات آن‌ها باعث آسیب می‌شود، عقب‌نشینی نکرده است.
فراتر از دادگاه، شارما در حال لابی کردن با وزرای فدرال برای اصلاح قانون کیفری کانادا است. او به شن فریزر (وزیر دادگستری و دادستان کل)، مارک میلر (وزیر هویت و فرهنگ) و وزیر سولومون نامه‌هایی حاوی ایده‌های سیاستی ارسال کرده است تا اطمینان حاصل شود که مسیری برای پاسخگویی انسانی در برابر اقدامات هوش مصنوعی وجود دارد.
این استراتژی حقوقی مشابه برخوردهای پیشین این استان با تولیدکنندگان دخانیات، تولیدکنندگان مواد افیونی و شرکت‌های ویپ است؛ یعنی نگاه به شرکت‌های هوش مصنوعی نه به عنوان فروشنده نرم‌افزار، بلکه به عنوان نهادهایی که «وظیفه مراقبت» (Duty of Care) برای پیشگیری از خشونت‌های پیش‌بینی‌پذیر دارند.
برای کاربر عادی، این پرونده شکاف ترسناکی را آشکار می‌کند: فاصله میان یک «پرچم ایمنی» داخلی در سرورهای هوش مصنوعی و ضربه پلیس به درِ خانه یک مجرم. اگر دادگاه OpenAI را مقصر بداند، تمام آزمایشگاه‌های هوش مصنوعی مجبور خواهند شد نحوه تعامل با داده‌های کاربر و همکاری با پلیس را از اساس بازنویسی کنند.
باید منتظر احکام آتی در دادگاه منطقه‌ای شمالی کالیفرنیا بود، زیرا این احکام احتمالاً پیش‌بینی جهانی (Precedent) را برای مسئولیت قانونی هوش مصنوعی در جرایم خشونت‌آمیز تعیین خواهند کرد.
گام بعدی شما
- بررسی سیاست‌های حریم خصوصی و گزارش‌دهی ابزارهای AI که در سازمانتان استفاده می‌کنید.
- دنبال کردن احکام دادگاه منطقه‌ای شمالی کالیفرنیا برای درک استانداردهای جدید مسئولیت قانونی AI.
- مطالعه درباره تفاوت میان «توقف دسترسی کاربر» و «گزارش به مقامات» در پروتکل‌های ایمنی.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو