کاتی هاکول (Kathy Hochul)، فرماندار نیویورک، روز ۲۸ اکتبر ۲۰۲۶ سخت‌گیرانه‌ترین قانون ایمنی چت‌بات برای کودکان در آمریکا را امضا کرد. طبق قانون چت‌بات نیویورک، شرکت‌ها باید سن کاربران را احراز کنند و چت‌بات‌ها حق ندارند برای کودکان نقش همدم انسانی را بازی کنند.
زمینهٔ امضای قانون چت‌بات نیویورک
این قانون چند هفته پس از آن امضا شد که هشت ایالت در همین ماه جداگانه از اوپن‌ای‌آی (OpenAI) شکایت کردند. آن‌ها این شرکت را به به‌خطرانداختن کودکان متهم کرده‌اند. شهر نیویورک هم در ماه سپتامبر استفاده از ابزارهای هوش مصنوعی زاینده (Generative AI) را در کلاس برای دانش‌آموزان تا پایهٔ هشتم ممنوع کرده بود.
جیم استایر (Jim Steyer)، مدیرعامل سازمان کامن سنس مدیا (Common Sense Media)، این قانون را الگویی برای کل کشور خواند. او گفت: «نیویورک با امضای قوی‌ترین قانون ایمنی هوش مصنوعی برای کودکان در کشور تاریخ‌ساز شد.»
هاکول این قانون را ادامهٔ قانون «ایمن برای کودکان» (Safe for Kids Act) دانست. آن قانون طراحی الگوریتم‌های شبکه‌های اجتماعی را هدف گرفته بود. هاکول در مراسم امضا گفت: «نمی‌دانم چرا باید علیه چیزی به این بدیهی قانون تصویب کنیم.»
احراز سن کاربران چگونه انجام می‌شود
شرکت‌های هوش مصنوعی باید دست‌کم یک روش احراز سن ارائه دهند که فقط به مدرک شناسایی دولتی متکی نباشد. این بند به نگرانی مدافعان حریم خصوصی دربارهٔ جمع‌آوری حداقلی داده پاسخ می‌دهد. شرکت‌ها همچنین باید اطلاعات سن را بلافاصله پس از احراز حذف کنند.
اگر کاربر زیر ۱۸ سال باشد یا شرکت هنوز بزرگسال بودن او را تأیید نکرده باشد، چت‌بات باید از مجموعه‌ای از قواعد رفتاری پیروی کند.
رفتارهای ممنوع برای چت‌بات‌ها
طبق این قانون، چت‌بات‌ها در برابر کاربران زیر ۱۸ سال این کارها را نمی‌توانند انجام دهند:
- وانمود کنند انسان واقعی‌اند یا احساسات انسانی دارند
- ادعای رابطهٔ عاشقانه، حرفه‌ای یا نقش یک مرجع و بزرگ‌تر را داشته باشند
- بدون درخواست کاربر سؤال احساسی بپرسند یا از داده‌های سلامت او استفاده کنند
- خودآسیبی، اختلال‌های خوردن یا سوءمصرف مواد را ترویج کنند
- کودک را به پنهان‌کاری یا دوری از والدین و متخصصان تشویق کنند
- هر نوع محتوای صریح جنسی تولید کنند این محدودیت‌ها در راستای جلوگیری از آسیب‌های روانی است که پیش‌تر با استفاده از «عروسک‌های تصادف» هوش مصنوعی برای پیشگیری از خودکشی کاربران بررسی شده بود.
جریمه‌ها و زمان اجرا
هر تخلف تا ۲۵٬۰۰۰ دلار جریمهٔ مدنی به‌اضافهٔ خسارت دارد. دادستان کل نیویورک سامانه‌ای برای ثبت شکایت عمومی راه می‌اندازد. داده‌هایی که غیرقانونی جمع شده‌اند و مدل‌هایی که با آن‌ها آموزش دیده‌اند باید حذف شوند. این قواعد شش ماه دیگر اجرا می‌شوند.
پیامد برای شرکت‌های هوش مصنوعی
این قانون هزینهٔ انطباق را برای شرکت‌های هوش مصنوعی بالا می‌برد. شاید لازم شود لایهٔ شخصیت چت‌بات‌ها از نظر معماری تغییر کند. اوپن‌ای‌آی، آنتروپیک (Anthropic) و گوگل اکنون با مجموعه‌ای پراکنده از قوانین ایالتی روبه‌رو هستند که می‌تواند نقشهٔ راه محصولاتشان را چندپاره کند. سرمایه‌گذاران باید ببینند آیا ایالت‌های دیگر متن قانون نیویورک را عیناً به کار می‌گیرند.
هاکول همان روز قانون دیگری را هم برای امنیت مانیتورهای متصل به اینترنتِ اتاق کودک امضا کرد. آن قانون ۹۰ روز دیگر اجرا می‌شود و رمزنگاری و برچسب هشدار را الزامی می‌کند. این دو قانون در کنار هم، دامنهٔ پاسخ‌گویی هوش مصنوعی را از نظارت بر محتوا به طراحی تعامل گسترش می‌دهند.
توسعه‌دهندگان عامل‌های مصرفی بهتر است همین حالا منطق شخصیت محصولشان را برای یافتن کاستی‌های انطباق بازبینی کنند. نبرد قانون‌گذاری بعدی احتمالاً بر سر برتری قانون فدرال بر قوانین ایالتی خواهد بود. باید دید آیا کنگره پیش از پایان مهلت شش‌ماهه جلسهٔ استماع برگزار می‌کند.
گام بعدی شما
- اگر چت‌بات مصرفی می‌سازید، لایهٔ شخصیت آن را با فهرست ممنوعیت‌های نیویورک بسنجید و حذف خودکار داده‌های احراز سن را پیاده کنید.
- تیم حقوقی را برای انطباق با قوانین چند ایالت آماده کنید، نه فقط نیویورک.
- بحث برتری قانون فدرال و احتمال جلسهٔ استماع کنگره را پیش از پایان مهلت شش‌ماهه دنبال کنید.
گفتگو