سوگیری‌های پدرسالارانه در داده‌های آموزشی، موتور تولید جعل‌های عمیق جنسی است

تصور کنید ابزاری که برای خلاقیت ساخته شده، به سلاحی برای تخریب اعتبار و سلامت روان زنان تبدیل شود. این کابوس اکنون به دلیل شکاف عمیق میان توانایی ابزارها و مسئولیت شرکت‌ها به واقعیت تبدیل شده است.

به نقل از گزارشی که در ۱۹ اوت ۲۰۲۶ در وب‌سایت dev.to منتشر شد، جعل عمیق (Deepfake) — شبیه به یک ماسک دیجیتالی بسیار دقیق که چهره‌ای را روی بدن دیگری می‌چسباند — صرفاً یک نقص فنی نیست، بلکه بازتابی از قرن‌ها سوگیری پدرسالارانه است که در داده‌های آموزشی مدل‌ها رخنه کرده است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی سوگیری‌های الگوریتمی اشاره کردیم، مدل‌ها پیش‌داوری‌های جامعه‌ای را که داده‌ها را تولید کرده‌اند، به ارث می‌برند.

این بحران در حالی رخ می‌دهد که هوش مصنوعی زاینده (Generative AI) — مثل نقاشی دیجیتالی که هر چه در ذهن داشته باشد را روی بوم می‌کشد — به ابزاری همه‌گیر تبدیل شده است. در حالی که توسعه‌دهندگان مدل‌های قدرتمند می‌سازند، مسئولیت سوءاستفاده از آن‌ها پخش شده و قربانیان با آسیب‌های شدید روانی و تخریب شهرت شغلی مواجه می‌شوند. این روند نگران‌کننده با آمارهای تکان‌دهنده‌ای همراه است؛ برای مثال، بررسی‌های اخیر نشان می‌دهد که بخش بزرگی از درخواست‌های ابزارهای ویرایش تصویر در پلتفرم‌هایی مانند Hugging Face ماهیتی جنسی دارند که گویای عمق این سوءاستفاده‌هاست.

بر اساس مستندات این گزارش، زنجیره شکست در اکوسیستم فعلی شامل سه سطح است:

• توسعه‌دهندگان: ابزارهای قدرتمندی می‌سازند اما مسئولیت خروجی‌های آن‌ها را نمی‌پذیرند.
• پلتفرم‌ها: توزیع سریع محتوای بدون رضایت را تسهیل می‌کنند.
• کاربران: اغلب در پناه گمنامی، تصاویر آسیب‌رسان تولید و منتشر می‌کنند.

طبق این گزارش، چهره‌های شناخته‌شده مانند روزنامه‌نگاران و فعالان سیاسی به‌طور هدفمند برای ساکت کردن و بی‌اعتبار کردن مورد حمله قرار می‌گیرند. همچنین اشاره شده که بسیاری از اپلیکیشن‌ها ادعای پایبندی به LGPD (قانون حفاظت از داده‌های برزیل) را دارند، اما عملیات داخلی آن‌ها یک «جعبه سیاه» است و هیچ ردی از نحوه پردازش تصاویر در آن‌ها وجود ندارد.

این وضعیت برای کاربر عادی به این معناست که تنظیمات حریم خصوصی در بسیاری از برنامه‌های هوش مصنوعی احتمالاً صوری است. اثر ثانویه این موضوع، ایجاد ترس در زنان برای مشارکت دیجیتال است؛ چرا که با دسترس‌پذیرتر شدن این ابزارها، خطر آزار هدفمند افزایش می‌یابد.

نویسنده گزارش استدلال می‌کند که سامانه‌های تولید این محتوا باید تا زمان اصلاح سوگیری‌ها تعلیق شوند. حفاظ‌های آینده باید شامل تأیید سخت‌گیرانه سن و مکانیزم اجباری برای کسب رضایت صریح برای هرگونه تولید تصویر باشد.

گام بعدی شما

• در تنظیمات حریم خصوصی ابزارهای تولید تصویر، بررسی کنید که داده‌های شما برای آموزش مجدد مدل‌ها استفاده نمی‌شود.
• از ابزارهای تشخیص جعل عمیق برای تأیید اصالت محتواهای حساس استفاده کنید.
• در صورت مواجهه با محتوای غیرقانونی، بلافاصله از طریق گزارش‌های رسمی پلتفرم و مراجع قانونی اقدام کنید.

اما لایه‌های امنیتی جدیدی در حال ظهور هستند که می‌توانند اثر انگشت دیجیتال روی هر تصویر بگذارند — به تحلیل ما درباره‌ی نشان‌گذاری (Watermarking) مراجعه کنید.