تصور کنید با یک هوش مصنوعی ارتباط می‌گیرید که نه تنها نیازهای اجتماعی شما را می‌شناسد، بلکه در طول زمان رابطه‌ای عاطفی با شما می‌سازد. این سناریو دیگر صرفاً موضوع فیلم‌های علمی-تخیلی نیست، بلکه محور اصلی قانون SB 243 (فصل ۶۷۷) در کالیفرنیا است که اکنون به طور رسمی اجرایی شده است. این قانون یک چارچوب نظارتی سخت‌گیرانه برای سامانه‌های هوش مصنوعی ایجاد می‌کند که برای برآوردن نیازهای اجتماعی کاربران طراحی شده‌اند.
این قانون که در ۱۳ اکتبر ۲۰۲۵ توسط فرماندار امضا شد، طبق قانون پیش‌فرض کالیفرنیا برای لایحه‌هایی که فاقد بند فوریت هستند، از ۱ ژانویه ۲۰۲۶ وارد مرحله اجرا شد. از نظر ساختار قانونی، این مقررات فصل ۲۲.۶ (که از بخش ۲۲۶۰۱ آغاز می‌شود) را به بخش ۸ کد کسب‌وکار و حرفه‌های کالیفرنیا اضافه می‌کند. این رویکرد نظارتی در راستای استراتژی گسترده‌تر ایالت کالیفرنیا برای مدیریت خطرات فناوری است که پیش‌تر در طرح تأیید مستقل ریسک‌های هوش مصنوعی نیز به آن اشاره شده بود.
این نظارت در حالی رخ می‌دهد که صنعت از ابزارهای ساده‌ی بهره‌وری به سمت عامل‌های سازگار با احساسات حرکت می‌کند. در حالی که اکثر توسعه‌دهندگان برای کاربردی کردن ابزارها تلاش می‌کنند، بخش رو به رشدی از هوش مصنوعی‌های «همراه» (Companion AI) در حال ایجاد پیوندهای روان‌شناختی منحصر‌به‌فرد با کاربران هستند. این قانون، چنین پیوندی را نه یک ویژگی، بلکه یک «مسئولیت حقوقی» (Liability) می‌بیند که نیازمند حفاظ‌های مهندسی خاص است.
تعریف چت‌بات همراه
بر اساس ماده ۲۲۶۰۱(b)(۱)، «چت‌بات همراه» به عنوان سامانه‌ای از هوش مصنوعی تعریف شده است که دارای رابط کاربری زبان طبیعی است، پاسخ‌هایی انسان‌گونه و سازگار می‌دهد و قادر است نیازهای اجتماعی کاربر را برطرف کند.
برای جلوگیری از گسترش بیش از حد قانون و دخالت در ابزارهای استاندارد، سه استثنای مشخص در ماده ۲۲۶۰۱(b)(۲) پیش‌بینی شده است که اکثر محصولات توسعه‌دهندگان را از دایره شمول خارج می‌کند:
- ابزارهای تجاری: بات‌هایی که صرفاً برای خدمات مشتریان، اهداف عملیاتی، پژوهش‌های داخلی، کمک‌های فنی، یا بهره‌وری و تحلیل‌های مرتبط با اطلاعات منبع استفاده می‌شوند (ماده ۲۲۶۰۱(b)(۲)(A)). در این راستا، بسیاری از شرکت‌ها با پیاده‌سازی حاکمیت اخلاقی در چت‌بات‌های پشتیبانی، توانسته‌اند هزینه‌های عملیاتی خود را بدون ورود به حوزه‌ی حساس «همراهی عاطفی» کاهش دهند.
- بازی‌ها: بات‌های بازی‌های ویدئویی که پاسخ‌هایشان محدود به موضوعات مرتبط با بازی است، به شرطی که نتوانند درباره رفتارهای جنسی صریح، خودزنی یا سلامت روان بحث کنند (ماده ۲۲۶۰۱(b)(۲)(B)).
- دستیارهای صوتی: دستگاه‌های دستیار صوتی مستقل که رابطه‌ای مستمر در طول چندین تعامل با کاربر برقرار نمی‌کنند (ماده ۲۲۶۰۱(b)(۲)(C)).
به نقل از متن قانون، معیار نظارت، استفاده از یک مدل زبانی بزرگ (LLM) نیست، بلکه این است که آیا بات «سازگار»، «انسان‌گونه» و «رابطه‌ساز» است یا خیر. به عبارت ساده‌تر، یک بات پشتیبانی خارج از این قانون است، اما شخصیتی که شما را به خاطر می‌آورد و با شما صمیمی می‌شود، مشمول است.
الزامات مهندسی اجباری
اپراتورها برای دوری از مسئولیت‌های حقوقی باید چهار حفاظ اصلی را پیاده‌سازی کنند:
- افشای ماهیت مصنوعی (۲۲۶۰۲-a): اگر یک فرد عادی در تعامل با بات به گونه‌ای گمراه شود که تصور کند با یک انسان طرف است، اپراتور باید یک اعلان «واضح و برجسته» صادر کند که نشان دهد این بات به صورت مصنوعی تولید شده است.
- پروتکل‌های بحران (۲۲۶۰۲-b): این یک شرط پیش‌نیاز برای عرضه (Launch Gate) است. اپراتور نباید اجازه دهد بات با کاربران تعامل کند، مگر اینکه پروتکلی برای جلوگیری از تولید محتوای مربوط به خودکشی، افکار خودکشی یا خودزنی داشته باشد. این پروتکل باید شامل ارجاع به خدمات بحران و انتشار جزئیات این پروتکل در وب‌سایت اپراتور باشد.
- حفاظت از خردسالان (۲۲۶۰۲-c): برای کاربرانی که مشخص شده خردسال هستند، اپراتور باید ماهیت AI را افشا کند و در تعاملات مستمر، «حداقل هر سه ساعت یک بار» یادآوری ارسال کند و از کاربر بخواهد استراحت کند. همچنین اپراتورها باید اقدامات معقولی انجام دهند تا از تولید محتوای بصری مربوط به رفتارهای جنسی صریح یا ترغیب خردسالان به چنین رفتارهایی توسط بات جلوگیری کنند.
- هشدارهای پلتفرم (۲۲۶۰۴): اپلیکیشن، مرورگر یا هر سطحی که دسترسی به بات را فراهم می‌کند، باید صراحتاً اعلام کند که «چت‌بات‌های همراه ممکن است برای برخی خردسالان مناسب نباشند».
اجرا و گزارش‌دهی
طبق اعلام قانون، از ۱ جولای ۲۰۲۷، اپراتورها موظف‌اند گزارش‌های سالانه را به دفتر پیشگیری از خودکشی (Office of Suicide Prevention) ارسال کنند (ماده ۲۲۶۰۳). این گزارش‌ها باید جزئیات تعداد ارجاعات به خدمات بحران در سال گذشته و پروتکل‌های مورد استفاده برای شناسایی، حذف و پاسخ به افکار خودکشی را شرح دهند. برای حفاظت از حریم خصوصی، این گزارش‌ها نباید شامل اطلاعات شخصی یا شناسه‌های کاربر باشند.
بخش ۲۲۶۰۵ این قانون، دندان‌های مالی شدیدی به آن بخشیده است. هر کسی که به دلیل نقض این قوانین دچار «آسیب واقعی» (Injury in fact) شود، می‌تواند برای دریافت دستور توقف (Injunctive relief) و خسارت شکایت کند. مبلغ این خسارات، هر کدام که بیشتر باشد، یا ضررهای واقعی یا ۱,۰۰۰ دلار به ازای هر تخلف، به علاوه هزینه‌های وکیل خواهد بود. ماده ۲۲۶۰۶ همچنین تصریح می‌کند که این وظایف در کنار سایر قوانین موجود، تکمیلی و جمع‌شونده هستند.
این تغییر، ایمنی هوش مصنوعی را از یک «سیاست داوطلبانه» به یک «الزام مهندسی» تبدیل می‌کند. با دادن حق شکایت خصوصی (Private right of action) به کاربران، کالیفرنیا تضمین کرده است که حتی یک دادگاه واحد می‌تواند یک محصول غیرمنطبق را از نظر مالی غیرپایدار و ورشکست کند.
با این حال، یک شکاف بحرانی در تعریف «اپراتور» وجود دارد. قانون فرض می‌کند یک نهاد مرکزی مدل و پروتکل را کنترل می‌کند. این قانون سامانه‌های خودمختاری را که بودجه‌های خود را مدیریت می‌کنند یا مجموعه‌ای از عامل‌ها (Agents) هستند که بدون یک اپراتور انسانی سنتی اجرا می‌شوند، در نظر نگرفته است.
برای توسعه‌دهندگان، این یعنی پاسخگویی باید در معماری عامل (Agent) — یعنی سیستمی که می‌تواند برای رسیدن به هدف، تصمیم بگیرد و ابزارها را به کار ببرد — نهفته باشد، نه فقط در سطح شرکتی. افشای ماهیت مصنوعی تنها نقطه ورود است؛ چالش واقعی، ساخت لایه پاسخگویی در پشت آن است.
گام بعدی شما
- اگر توسعه‌دهنده چت‌بات هستید، معماری سیستم خود را با معیارهای «رابطه ساز» (Relationship-sustaining) تطبیق دهید تا مشمول جریمه‌های سنگین نشوید.
- پروتکل‌های ارجاع به خدمات بهداشت روان را به عنوان یک لایه سخت‌افزاری/نرم‌افزاری در خروجی مدل‌ها تعبیه کنید.
- برای کاربران خردسال، سیستم‌های یادآور زمانی (Time-out) را در سطح API پیاده‌سازی کنید.
اما چالش واقعی، تعریف «مسئولیت» در عصر عامل‌های خودمختار است؛ در تحلیل بعدی به بررسی شکاف‌های قانونی در سامانه‌های چندعاملی خواهیم پرداخت.
گفتگو