اگر ابزاری ساخته‌اید که کاربران می‌توانند خروجی‌های آن را با دیگران به اشتراک بگذارند، باید بدانید که از این پس تحت نظارت مستقیم دولت بریتانیا هستید. این تغییر قانونی به معنای آن است که مرز میان یک دستیار شخصی خصوصی و یک پلتفرم اجتماعی برای توسعه‌دهندگان هوش مصنوعی به‌کلی از بین رفته است.
آیا قانون ایمنی آنلاین ۲۰۲۳ (Online Safety Act 2023) بر محتوای هوش مصنوعی اعمال می‌شود؟ این قانون هیچ فصل اختصاصی برای هوش مصنوعی ندارد و پاسخ مستقیمی به این پرسش نمی‌دهد. در عوض، تعاریف گسترده‌ی آن اکنون طیف وسیعی از سرویس‌های هوش مصنوعی زاینده را در بر می‌گیرد. از آنجایی که هر تکلیفی به این بستگی دارد که آیا یک سرویس به عنوان یک سرویس «کاربر-به-کاربر» یا «سرویس جست‌وجو» طبقه‌بندی شود، این تمایز حیاتی است. ابزارهای هوش مصنوعی که به کاربران اجازه می‌دهند خروجی‌ها را به اشتراک بگذارند یا با شخصیت‌های سفارشی تعامل کنند، احتمالاً تحت قانون بریتانیا به عنوان سرویس‌های تنظیم‌شده‌ی «کاربر-به-کاربر» عمل می‌کنند.
این تغییر نظارتی در حالی رخ می‌دهد که دولت بریتانیا از اهداف کلی قانون‌گذاری به سمت اجرای فعالانه در حال حرکت است. این قانون در ۲۶ اکتبر ۲۰۲۳ تأیید شد و دو نوع سرویس اصلی با ارتباط به بریتانیا را تنظیم می‌کند: سرویس‌های کاربر-به-کاربر، جایی که محتوای تولیدشده، آپلودشده یا به اشتراک گذاشته شده توسط یک کاربر ممکن است توسط کاربر دیگری مشاهده شود، و سرویس‌های جست‌وجو. بخش ۵ این قانون به‌طور جداگانه سرویس‌هایی را که محتوای پورنوگرافیک منتشر می‌کنند، تنظیم می‌کند. برای توسعه‌دهندگان هوش مصنوعی، تمایز بین یک دستیار خصوصی و یک پلتفرم اجتماعی از بین رفته است. سازمان تنظیم‌گر، Ofcom، اکنون توانایی اشتراک‌گذاری محتوای تولیدشده توسط هوش مصنوعی را به عنوان محرک اصلی مسئولیت قانونی در نظر می‌گیرد.
طبق اعلام Ofcom (سازمان تنظیم‌گر ارتباطات بریتانیا)، هر سرویسی که اجازه دهد محتوای تولیدشده توسط یک کاربر توسط کاربر دیگری دیده شود، به عنوان یک سرویس «کاربر-به-کاربر» طبقه‌بندی می‌شود. این یعنی هوش مصنوعی زاینده (Generative AI) — شبیه به یک هنرمند دیجیتال که می‌تواند هر چه بخواهید خلق کند — دیگر نمی‌تواند پشت لایه «ابزار شخصی» پنهان شود.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی چارچوب‌های نظارتی مدل‌های زبانی اشاره کردیم، تمایل دولت‌ها به سمت نظارت بر «خروجی» به‌جای «مدل» در حال افزایش است. قانون ایمنی آنلاین ۲۰۲۳ دقیقاً همین مسیر را می‌پیماید. در این راستا، پیاده‌سازی استانداردهای سخت‌گیرانه برای حفظ حریم خصوصی و امنیت داده‌ها ضروری است، مشابه آنچه در الگوهای معماری برای استقرار امن هوش مصنوعی در صنعت حقوق بررسی کردیم تا ریسک‌های قانونی به حداقل برسد.
محرک محدوده نظارتی
به نقل از نامه‌ی راهنمای Ofcom که در ۸ نوامبر ۲۰۲۴ منتشر شد، تعیین محدوده نظارت به این بستگی دارد که خروجی مدل، «محتوای ارائه‌دهنده» تلقی شود یا «محتوای تولیدشده توسط کاربر». یک چت‌بات مستقل که به صورت خصوصی به یک کاربر پاسخ می‌دهد و هیچ مکانیزم اشتراک‌گذاری ندارد، شبیه به محتوای ارائه‌دهنده است که به یک کاربر واحد تحویل داده می‌شود؛ از آنجایی که کاربر دومی برای مواجهه با آن وجود ندارد، این ابزار عموماً خارج از محدوده قانون باقی می‌ماند.
با این حال، اگر هر یک از موارد زیر صادق باشد، سرویس به یک سرویس کاربر-به-کاربر تنظیم‌شده تبدیل می‌شود:
- کاربران بتوانند خروجی‌های تولیدشده را با دیگران در سرویس به اشتراک بگذارند.
- کاربران بتوانند شخصیت‌ها، پرسوناها یا بات‌هایی بسازند که دیگران با آن‌ها تعامل کنند.
- محتوای تولیدشده در فیدها، گروه‌ها یا بخش نظرات منتشر شود.
Ofcom همچنین تصریح کرد که یک ابزار GenAI که نتایج جست‌وجو را در وب‌سایت‌های متعدد تولید می‌کند، ممکن است به عنوان یک «سرویس جست‌وجو» طبقه‌بندی شود و هر ابزاری که محتوای پورنوگرافیک تولید می‌کند، تحت تکالیف بخش ۵ قرار می‌گیرد. اگرچه نامه ۸ نوامبر یک راهنماست و نه یک تصمیم رسمی، اما به عنوان یک اخطار حیاتی عمل می‌کند. سرویسی که ویژگی‌های چت با شخصیت‌ها را پس از این تاریخ خارج از رژیم نظارتی بداند، نمی‌تواند به راحتی ادعا کند که دلیلی برای بررسی این موضوع نداشته است.
ضرب‌الاجل‌ها و تکالیف
تعیین محدوده نظارتی تئوریک نیست؛ بلکه بر اساس واقعیت‌های هر سرویس است و پیامدهای جدی دارد. این تعیین تکلیف مشخص می‌کند که آیا شما تکالیف ارزیابی ریسک با ضرب‌الاجل‌های سخت دارید یا خیر. برای سرویس‌های مشمول، تکالیف اصلی شامل «تکالیف محتوای غیرقانونی» و در مواردی که احتمال دسترسی کودکان به سرویس وجود دارد، «تکالیف ایمنی کودکان» است.
هر تکلیف با یک ارزیابی ریسک در برابر فهرست ریسک‌های Ofcom آغاز می‌شود. ارائه‌دهندگان باید موارد زیر را پیاده‌سازی کنند:
- سیستم‌ها و فرآیندهای متناسب برای کاهش ریسک‌های شناسایی‌شده.
- رویه‌های رسمی برای گزارش محتوا و رسیدگی به شکایات.
- شرایط استفاده (Terms of Service) که شفاف باشند و به طور یکسان اجرا شوند.
بخش حیاتی، زمان‌بندی است. کدهای رویه اجرایی آسیب‌های غیرقانونی و راهنمای ارزیابی ریسک Ofcom فرآیند پارلمانی را به گونه‌ای به پایان رساندند که ضرب‌الاجل ارزیابی ریسک محتوای غیرقانونی در مارس ۲۰۲۵ قرار گرفت. تکالیف و کدهای ایمنی در ۱۷ مارس ۲۰۲۵ اجرایی شدند.
تکالیف ایمنی کودکان اندکی بعد از آن دنبال شد. کدهای حفاظت از کودکان و الزامات احراز سن بسیار مؤثر برای محتوای پورنوگرافیک در ۲۵ ژوئیه ۲۰۲۵ فعال شدند. علاوه بر این، سرویس‌های دسته‌بندی‌شده با تکالیف بیشتری، از جمله گزارش‌های شفافیت، در جدول زمانی متفاوتی مواجه هستند که توسط فهرست سرویس‌های دسته‌بندی‌شده هدایت می‌شود.
مسئولیت «طراحی»
دو ویژگی خاص هوش مصنوعی زاینده باعث ایجاد اصطکاک با این تکالیف می‌شود. اول، Ofcom سیستم‌ها را ارزیابی می‌کند و نه کمال مطلق را. تکالیف محتوای غیرقانونی درباره سیستم‌ها هستند، نه نبود کامل خطاها. اجرای قانون بر این تمرکز دارد که آیا کنترل‌های تولید، طبقه‌بندی‌کننده‌ها و مسیرهای گزارش‌دهی «معقول» بوده‌اند یا خیر، نه اینکه آیا یک خروجی بد از فیلترها گریخته است یا خیر.
دوم، این قانون بر محتوایی اعمال می‌شود که در سرویس «مواجه» (encountered) شود. این بدان معناست که یک ویژگی تولید محتوا که قادر است محتوای غیرقانونی اولویت‌دار را در صورت درخواست تولید کند، یک عامل ریسک در ارزیابی شماست، حتی اگر آن محتوا هرگز به اشتراک گذاشته نشود. چون اشتراک‌گذاری اغلب تنها یک کلیک فاصله دارد، خودِ «طراحی» منبع مسئولیت است؛ ارزیابی باید طراحی ابزار را در نظر بگیرد.
جرم‌انگاری تصاویر مصنوعی
این قانون همچنین حقوق کیفری را با وارد کردن جرایم جدید مربوط به تصاویر صمیمانه در قانون جرایم جنسی ۲۰۰۳ گسترش می‌دهد. این قانون قوانین قدیمی «پورنوگرافی انتقامی» را با یک جرم پایه یعنی اشتراک‌گذاری عکس یا فیلم صمیمانه بدون رضایت جایگزین می‌کند. جرایم شدیدتری در مواردی اعمال می‌شود که قصد ایجاد هشدار، پریشانی، تحقیر یا برای ارضای جنسی باشد.
این تعاریف شامل تصاویری است که «به نظر می‌رسد» عکس یا فیلم باشند، و بنابراین محتوای مصنوعی و تغییریافته را نیز در بر می‌گیرد و تنها به ضبط‌های واقعی محدود نمی‌شود. در حالی که قانون ۲۰۲۳ بر اشتراک‌گذاری تمرکز داشت، قانون داده‌ها (استفاده و دسترسی) ۲۰۲۵ که در ۱۹ ژوئن ۲۰۲۵ تأیید شد، به سمت جرم‌انگاری «خلق» واقعی تصاویر صمیمانه ادعایی حرکت کرد. از آنجایی که اجرای مفاد فردی توسط مقررات صورت می‌گیرد، تاریخ دقیق اجرایی شدن جرم خلق تصاویر به دستور آغاز (commencement order) بستگی دارد.
به طور جداگانه، لایحه جرم و پلیس ۲۰۲۵ پیشنهاداتی را برای جرم‌انگاری تصاحب و عرضه مدل‌های هوش مصنوعی بهینه‌شده برای تولید محتوای سوءاستفاده جنسی از کودکان معرفی کرد. از آنجایی که این یک لایحه است و هنوز قانون نشده، این مفاد تا زمانی که تأیید سلطنتی و دستور اجرا صادر نشود، نافذ نیستند. جایی که این جرایم برای یک پلتفرم اثر می‌گذارند، از طریق تکالیف محتوای غیرقانونی است: گسترش یک مفاد کیفری برای پوشش مواد مصنوعی، تکالیف پیش‌گیرانه پلتفرم را برای جرایم اولویت‌دار گسترش می‌دهد.
شکاف‌های قانونی حل‌نشده
چندین پرسش حیاتی همچنان باز است. هنوز مشخص نیست که آیا یک دستیار صرفاً یک-به-یک با هرگونه ویژگی اجتماعی، از آستانه ورود به قلمرو کاربر-به-کاربر عبور می‌کند یا خیر؛ نامه Ofcom به جای کلمه «است»، از کلمه «ممکن است» استفاده کرده است.
همچنین تنشی در این مورد وجود دارد که آیا یک ارائه‌دهنده تحت تکالیف محتوای غیرقانونی برای مطالبی که مدل خودش تولید کرده است (در تضاد با مطالبی که کاربر آپلود کرده)، مسئول است یا خیر. این موضوع با قانونی که حول محور محتوای کاربر و کاهش اثرات توسط ارائه‌دهنده ساخته شده، ناسازگار است. در نهایت، تکالیف بریتانیا در حال حاضر با الزامات برچسب‌گذاری جعل عمیق اتحادیه اروپا تحت DSA هماهنگ نیستند و سرویس‌های جهانی را مجبور می‌کنند دو مجموعه انتظار متفاوت را مدیریت کنند.
برای توسعه‌دهندگان، این بدان معناست که بهانه «نسخه بتا» از بین رفته است. هر ویژگی که تعامل کاربر-به-کاربر را ممکن کند، اکنون نیازمند یک ارزیابی ریسک رسمی و یک استراتژی کاهش اثرات مستند است تا از جریمه‌های سنگین نظارتی اجتناب شود. اگر محصول شما در مرز این تعاریف است، باید نظر حقوقی جلب کنید و راهنمای فهرست Ofcom را بخوانید.
گام بعدی شما
- اگر محصول شما قابلیت اشتراک‌گذاری خروجی دارد، فوراً یک ارزیابی ریسک بر اساس استانداردهای Ofcom انجام دهید.
- مسیرهای گزارش محتوای غیرقانونی را در رابط کاربری (UI) خود برجسته و ساده کنید.
- در صورت فعالیت در بازار بریتانیا، تفاوت‌های الزامات DSA اروپا و قانون ایمنی بریتانیا را در سیاست‌های محتوایی خود یکسان‌سازی کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو