تصور کنید عکس رسمی شما در وب‌سایت دولت، به ابزاری متصل شده باشد که هدفش برهنه‌سازی دیجیتالی شماست. برای ۱۳۸ زن عضو پارلمان در ۲۲ کشور اتحادیه اروپا، این کابوس به واقعیت تبدیل شده است.
طبق گزارش اندیشکده آلمانی Agora Digitale Transformation، این زنان هدف وب‌سایت‌های جنسی مبتنی بر جعل عمیق (Deepfake) — تکنولوژی‌ای که مثل یک ماسک دیجیتالی بسیار دقیق، چهره یا صدای فرد را روی بدن یا صدای دیگری می‌نشاند — قرار گرفته‌اند. در حالی که در همین اکوسیستم، تنها ۹ نماینده مرد هدف قرار گرفته‌اند؛ یعنی طبق محاسبات بنجامین شولتز، احتمال هدف قرار گرفتن زنان ۳۳ برابر بیشتر است.
این موج از محتوای جنسی بدون رضایت، هم‌زمان با ارزان‌تر و واقع‌گرایانه‌تر شدن ابزارهای دستکاری تصویر رخ داده است. از زمان ظهور نخستین جعل‌های عمیق در اواخر سال ۲۰۱۷، دسترسی به این فناوری بسیار ساده شده است. برای زنان در دنیای سیاست، این ابزارها دیگر شوخی نیستند، بلکه سلاح‌هایی برای بیرون راندن آن‌ها از زندگی عمومی‌اند. فشار روانی ناشی از دیدن تصویر رسمی دولتی که به ابزاری برای برهنه‌سازی دیجیتال متصل شده، غیرقابل تصور است.
زمینه پژوهش
بنجامین شولتز (Benjamin Shultz)، پژوهشگر ارشد در Agora Digitale Transformation و پژوهشگر اصلی پروژه American Sunlight، حدود ۱۶۰ دامنه میزبان این محتواهای توهین‌آمیز را تحلیل کرد. او در ژوئیه ۲۰۲۴، جزئیات بیش از ۵۸۰۰ عضو پارلمان در سراسر اروپا را گردآوری کرد تا حضور آن‌ها را در این سایت‌ها ردیابی کند.
در حالی که این پژوهش بر اعضای پارلمان ملی در تمام ۲۷ کشور اتحادیه اروپا متمرکز بود، اعضای پارلمان اروپا (European Parliament) را شامل نمی‌شد. یافته‌های شولتز نشان می‌دهد سیاستمداران آلمان، هلند، ایتالیا و فرانسه بیشترین هدف‌ها بوده‌اند. او همچنین خاطرنشان کرد که هرچه رتبه سیاسی فرد بالاتر و جایگاهش ارشدتر باشد، احتمال هدف قرار گرفتنش بیشتر است.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های مولد اشاره کردیم، دسترسی آزاد به مدل‌های تبدیل تصویر به تصویر، ریسک‌های امنیتی را به شدت افزایش داده است.
سازوکار آزار دیجیتال
شولتز چندین روش برای به حداکثر رساندن آسیب توسط این پلتفرم‌ها شناسایی کرد:
- میزبانی مستقیم: سایت‌ها به‌طور فعال ویدیوها و تصاویر جنسی تولید شده توسط هوش مصنوعی از نمایندگان خاص را منتشر می‌کنند.
- درگاه‌های پایگاه‌داده: صفحاتی که نام، عکس‌های رسمی و پروفایل‌های اجتماعی سیاستمداران را فهرست می‌کنند و مانند یک دفترچه تلفن برای آزارگران عمل می‌کنند. شولتز این صفحات را «درگاه‌هایی» می‌نامد که در آن‌ها محتواهای جدید احتمالی ایجاد می‌شود.
- ادغام ابزارهای برهنه‌ساز: بسیاری از پروفایل‌ها لینک مستقیم به اپلیکیشن‌های «برهنه‌ساز» (Nudifier) یا ابزارهای داخلی خود سایت دارند که ادعا می‌کنند لباس‌ها را به‌صورت دیجیتالی حذف می‌کنند. طبق گفته شولتز، با توجه به تمام تصاویر و اطلاعات ارائه شده در این صفحات، یک کاربر تنها با سه کلیک می‌تواند محتوای جعلی بسازد.
- امتیازدهی به بدن: برخی سایت‌ها بخش‌هایی برای «امتیاز دادن» به بدن زنان سیاستمدار ایجاد کرده‌اند.
علاوه بر سیاستمداران، شولتز دریافت که این وب‌سایت‌ها شامل تصاویری از خبرنگاران، سلبریتی‌ها و دیگر چهره‌های عمومی نیز می‌شوند.
سوزان کروگر (Suzanne Kröger)، نماینده هلندی از گروه Progressive Netherlands که خود هدف این حملات بوده، این اتفاق را بخشی از روند گسترده‌تر نفرت‌پراکنی و ارعاب آنلاین می‌داند. او با ابراز خشم از این یافته‌ها، آن‌ها را «بسیار تکان‌دهنده» خواند. کروگر اشاره می‌کند در حالی که سیاستمداران تریبونی برای اعتراض دارند، میلیون‌ها زن دیگر در سکوت قربانی این اقدامات جنایی می‌شوند.
سارا دوبه (Sarah Dobbe)، نماینده حزب سوسیالیست هلند که او نیز متأثر از این وضعیت بوده، تأکید می‌کند که ویدیوهای جعل عمیق نه تنها برای ارعاب سیاستمداران، بلکه برای تحقیر زنان به کار می‌روند. او بر لزوم دریافت حمایت مستقیم توسط قربانیان و حذف سریع محتواها تأکید دارد.
هنری اجدر (Henry Ajder)، مشاور هوش مصنوعی و متخصص جعل عمیق که از سال ۲۰۱۸ این اکوسیستم را ردیابی کرده، توضیح می‌دهد که این پلتفرم‌ها مانند یک کسب‌وکار اداره می‌شوند. کل زیرساخت برای مقیاس‌پذیری بهینه شده تا بتوان صدها نفر را به‌طور هم‌زمان هدف قرار داد. او می‌گوید میلیون‌ها تصویر و ویدیوی بدون رضایت، عمدتاً توسط مردان و پسران تولید شده است تا برای آزار، ارعاب یا باج‌گیری از زنان و دختران استفاده شود؛ اتفاقی که حتی در حدود ۱۰۰ مدرسه در سراسر جهان رخ داده است.
این آزار سیستماتیک باعث ایجاد «اثر بازدارنده» (Chilling Effect) در مشارکت دموکراتیک می‌شود. شولتز هشدار می‌دهد که این وضعیت زنان را از پذیرش پست‌های دولتی دلسرد کرده و آن‌ها را از زندگی عمومی بیرون می‌راند. او اشاره می‌کند که این آزارها باعث آسیب‌های روانی واقعی و تخریب اعتباری می‌شود که حتی اگر زنی تصمیم بگیرد سیاست را ترک کرده و به شغل دیگری روی آورد، همچنان باقی می‌ماند.
پاسخ‌های قانونی کند بوده‌اند، اما تحرکاتی دیده می‌شود. بریتانیا و اتحادیه اروپا در حال حاضر در حال برنامه‌ریزی برای ممنوعیت سرویس‌های برهنه‌ساز هستند. در آمریکا، قانون Take It Down Act پیش از این به حذف حداقل دو وب‌سایت بزرگ منجر شد که هزاران تصویر و ویدیوی سلبریتی‌ها را منتشر می‌کردند. همچنین گزارش‌های روزنامه‌نگاری که هویت افراد پشت این سایت‌ها را فاش کردند، باعث آفلاین شدن دامنه‌های اصلی شد.
تلاش‌های اخیر نتایج مثبتی داشته است. شولتز تک‌تک نمایندگان آسیب‌دیده را به‌صورت انفرادی مطلع کرد و راهنمای حذف محتوا را در اختیارشان گذاشت. تا زمان انتشار پژوهش، حداقل ۶ دامنه تحت نظارت از دسترس خارج شدند و تعداد کل تصاویر نمایندگان اروپایی کاهش یافت.
شولتز اکنون پژوهش خود را روی سیاستمداران بریتانیا و آمریکا ادامه می‌دهد. او پیش‌تر در سال ۲۰۲۴ سناتورها و اعضای کنگره آمریکا را تحلیل کرده و متوجه «کاهش قابل‌توجه» تصاویر پس از بسته شدن برخی سایت‌ها در دو سال پیش شده بود. همان‌طور که سوزان کروگر تأکید می‌کند، اولویت اصلی باید اطمینان از حذف تصاویر و وضع مقررات سخت‌گیرانه برای این نوع فناوری باشد.
گام بعدی شما
- اگر چهره‌ای عمومی هستید، از ابزارهای پایش وب برای شناسایی استفاده غیرمجاز از تصاویرتان استفاده کنید.
- در صورت مواجهه با محتوای جعلی، بلافاصله از طریق گزارش‌های رسمی پلتفرم‌ها و قوانین محلی برای حذف محتوا اقدام کنید.
- از تنظیمات حریم خصوصی سخت‌گیرانه در شبکه‌های اجتماعی برای محدود کردن دسترسی به عکس‌های باکیفیت استفاده کنید.
اما نبرد قانونی علیه این ابزارها تازه آغاز شده است؛ اثرات قوانین جدید اتحادیه اروپا بر توسعه مدل‌های مولد را در گزارش بعدی بررسی خواهیم کرد.
گفتگو