تصور کنید تصاویری از شما در موقعیت‌های جنسی منتشر شود که هرچند کاملاً واقعی به نظر می‌رسند، اما هرگز اتفاق نیفتاده‌اند. این کابوس اکنون برای ۱۲۰۰ نفر به واقعیت تبدیل شده بود تا اینکه دادستانی منهتن وارد عمل شد.
دفتر دادستان منطقه منهتن (Manhattan District Attorney’s Office) در روز دوشنبه، ۱۴ سپتامبر ۲۰۲۶، ۱۲ دامنه را که برای فروش و انتشار غیرقانونی پورنوگرافی جعل عمیق (Deepfake) — شبیه به یک ماسک دیجیتالی بسیار دقیق که چهره‌ای را روی بدن دیگری می‌چسباند — استفاده می‌کردند، توقیف کرد. طبق اعلام این دفتر، هدف این عملیات صنعتی تاریک است که با استفاده از هوش مصنوعی زاینده (Generative AI) — ابزاری مثل یک نقاش فوق‌سریع که می‌تواند در ثانیه‌ها تصاویر واقع‌گرایانه خلق کند — محتوای جنسی غیررضایتی تولید می‌کند.
این توقیف‌ها در حالی رخ می‌دهد که اکوسیستم اپلیکیشن‌ها و ربات‌های «لخت‌کننده» در حال گسترش است و دیگر تنها سلبریتی‌ها، بلکه شهروندان عادی را هدف قرار می‌دهند. اگرچه این فناوری از اواخر سال ۲۰۱۷ ظهور کرد، اما مقیاس سوءاستفاده‌های فعلی از سرعت پاسخ‌های قانون‌گذاران پیشی گرفته است. اکنون نهادهای انتظامی برای حذف محتوا و توقیف زیرساخت‌ها از قانون «Take It Down» ایالات متحده استفاده می‌کنند.
زمینهٔ بحران
به گزارش دادستانی، وب‌سایت‌های مخرب جعل عمیق نزدیک به یک دهه است که هزاران ویدیو غیررضایتی منتشر می‌کنند. این سایت‌ها اغلب از عباراتی مثل «سکس سلبریتی» یا وعده «جعل‌های عمیق واقعی» در نام خود استفاده می‌کنند. یکی از این سایت‌ها به‌طور مشخص ادعا می‌کرد که از چهره بازیگران مختلف برای تولید محتوای خود استفاده می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، دسترسی آسان به ابزارهای تولید محتوا، مرز میان خلاقیت و جنایت را کمرنگ کرده است.
این پلتفرم‌ها معمولاً ویدیوهایی با طول چند دقیقه میزبانی می‌کنند. سازوکار آن‌ها به‌طور معمول بر پایه جایگزینی چهره چهره‌های شناخته‌شده در فیلم‌های پورنوگرافی موجود است. برخی از این سایت‌ها از سال ۲۰۱۸ فعال بودند و داده‌های آرشیو شده نشان می‌دهد برخی ویدیوها ده‌ها هزار بار دیده شده‌اند.
بر اساس مستندات دادستانی، سایت‌های توقیف‌شده حدود ۱۲۰۰ قربانی را به تصویر کشیده بودند که اکثریت قریب به اتفاق آن‌ها زنان هستند. اهداف این حملات طیف گسترده‌ای از چهره‌ها را شامل می‌شد:
- اینفلوئنسرهای شبکه‌های اجتماعی و بازیگران
- فعالان اجتماعی و ورزشکاران
- موسیقیدانان و سیاستمداران
آلوین براگ (Alvin Bragg)، دادستان منطقه، تأکید کرد که این تخلفات آسیب‌های روحی و روانی شدیدی به قربانیان می‌زند و اشاره کرد که این «نقض‌های هولناک حریم خصوصی، قربانیان را در مسیر شغلی و زندگی شخصی‌شان تعقیب می‌کند». در حال حاضر، این دفتر همزمان در حال بررسی و تحقیق درباره گردانندگان سایت‌ها و افرادی است که محتوای آسیب‌رسان را آپلود کرده‌اند.
جزئیات عملیات توقیف
این توقیف‌ها طبق قوانین رویه کیفری نیویورک و پس از صدور حکم توقیف توسط دادگاه عالی ایالت نیویورک انجام شد. پیش از اعلام رسمی، مشاهده شد که چندین صفحه اصلی با اعلان‌هایی جایگزین شده‌اند که صراحتاً می‌گوید: «این دامنه توقیف شده است» (THIS DOMAIN HAS BEEN SEIZED).
- مقیاس: توقیف ۱۲ دامنه در یک عملیات واحد.
- قربانیان: حدود ۱۲۰۰ نفر (عمدتاً زنان).
- سازوکار: جایگزینی چهره (Face-swapping) اهداف در صحنه‌های صریح.
- مبنای قانونی: قوانین رویه کیفری نیویورک و قانون Take It Down ایالات متحده.
هدف‌گیری سیاسی در سطح جهانی
پژوهش‌های پروژه سان‌لایت آمریکا (American Sunlight Project) و مؤسسه گفتگوی استراتژیک (ISD) ماهیت سیستماتیک این حملات را افشا می‌کند. بنجامین شولتز (Benjamin Shultz)، پژوهشگر ارشد، دریافت که بسیاری از ویدیوهای توقیف‌شده، بازنشرهایی از پلتفرم بدنام MrDeepFakes بوده‌اند؛ سایتی که پیش‌تر پس از افشای هویت سازندگانش توسط خبرنگاران، از دسترس خارج شده بود.
تحقیقات شولتز نشان داد که ۵۶ سیاستمدار اروپایی در این سایت‌های خاص هدف قرار گرفته بودند، از جمله ۱۶ نفر از آمریکا و دو نفر از بریتانیا. این موضوع با یافته‌های تکمیلی ما همسو است که نشان می‌دهد زنان سیاستمدار در اروپا به طور نامتناسبی بیشتر از مردان هدف این حملات جنسی قرار می‌گیرند. داده‌های تکمیلی که در اختیار WIRED قرار گرفته، نشان می‌دهد که ابعاد مشکل حتی بزرگ‌تر است و در چند سال اخیر، نزدیک به ۱۵۰ سیاستمدار اروپایی در دامنه‌های مختلف پورنوگرافی جعل عمیق هدف قرار گرفته‌اند.
در حداقل دو مورد از وب‌سایت‌های توقیف‌شده، برای مقامات منتخب پروفایل‌های اختصاصی ایجاد شده بود. این پروفایل‌ها شامل نام و سمت آن‌ها بود و در کنار آن، شبکه‌ای (Grid) از ویدیوهای دست‌کاری‌شده که شباهت آن‌ها را بازسازی کرده بود، قرار داشت.
شکاف زیرساختی
لئونی اومیگ (Leonie Oehmig)، پژوهشگر ISD، اشاره می‌کند که این توقیف‌ها پیروزی بزرگی در مبارزه با محتوای صریح غیررضایتی (NCII) است. او مشاهده کرد که دامنه‌های توقیف‌شده حتی با استفاده از VPN نیز در دسترس نیستند، که نشان‌دهنده یک اقدام اجرایی هماهنگ و مؤثر است. او خاطرنشان می‌کند که این موضوع ثابت می‌کند حتی در شرایطی که قوانین بین‌المللی در حوزه‌های قضایی مختلف پراکنده هستند، اجرای جدی قانون امکان‌پذیر است. این رویکرد قضایی در حالی اهمیت می‌یابد که بحث‌های گسترده‌ای درباره مرزهای قانونی استفاده از هوش مصنوعی در محیط‌های رسمی و دادگاه‌ها در جریان است.
با این حال، اومیگ هشدار می‌دهد که توقیف دامنه تنها بخشی از راه‌حل است. او معتقد است مداخله مؤثر باید کل اکوسیستم را هدف قرار دهد، از جمله:
۱. ابزارهای تولیدی که برای خلق محتوای صریح مصنوعی (NCII) استفاده می‌شوند
۲. روش‌های شناسایی و ترویج این تصاویر
۳. زیرساخت‌های میزبانی و فنی
۴. سیستم‌های پرداخت و همکاری در فروش (Affiliate) که برای کسب درآمد استفاده می‌شوند
برای کاربر عادی، این بدان معناست که اگرچه سایت‌های خاصی ناپدید می‌شوند، اما ابزارهای زیربنایی برای خلق این محتوا همچنان به‌طور گسترده در دسترس هستند. چرخش به سمت توقیف‌های قانونی نشان می‌دهد که رویکرد دستگاه قضایی از «درخواست حذف محتوا» به «پیگرد کیفری فعال» تغییر کرده است.
این اقدام نقطه عطفی است که در آن سیستم قانونی، تصاویر مصنوعی را نه صرفاً یک مسئله نظارت بر محتوا، بلکه یک دارایی جنایی ملموس می‌بیند که باید توقیف شود. این امر ریسک را مستقیماً متوجه گردانندگان این پلتفرم‌ها می‌کند.
باید منتظر ماند و دید آیا سایر حوزه‌های قضایی ایالات متحده نیز از الگوی نیویورک در استفاده از قانون Take It Down برای توقیف‌های گسترده دامنه‌ها پیروی می‌کنند، یا اینکه این صنعت صرفاً به پلتفرم‌های میزبانی غیرمتمرکز و مقاوم‌تر مهاجرت خواهد کرد.
گام بعدی شما
- اگر در معرض خطر انتشار محتوای جعلی هستید، از ابزارهای رسمی گزارش‌دهی و قوانین حذف محتوا در منطقه خود مطلع شوید.
- در هنگام استفاده از ابزارهای تولید تصویر، سیاست‌های اخلاقی و محدودیت‌های قانونی مربوط به تولید محتوای غیررضایتی را بررسی کنید.
- به دنبال توسعه ابزارهای تشخیص جعل عمیق (Deepfake Detection) باشید تا بتوانید اصالت محتواهای حساس را بسنجید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو