چرا شناسایی چهره دیگر برای مقابله با اخاذی‌های هوش مصنوعی زاینده کافی نیست؟

اگر امروز عکس‌های مدرسه‌ی فرزندتان را در شبکه‌های اجتماعی منتشر کرده‌اید، احتمالاً بدون آنکه بدانید، داده‌های لازم برای یک اخاذی دیجیتال را فراهم کرده‌اید. تصور کنید یک عکس سلفی ساده، به سلاحی برای تولید محتوای جعلی و تکان‌دهنده تبدیل شود.

این وضعیت نتیجه‌ی تکامل هوش مصنوعی زاینده (Generative AI) است؛ فناوری‌ای شبیه به یک نقاش چیره‌دست که می‌تواند از روی چند خط ساده، چهره‌ای کاملاً واقعی را خلق کند. همان‌طور که در تحلیل پیشین ما درباره‌ی مخاطرات مدل‌های بازمتن اشاره کردیم، دسترسی آسان به این ابزارها، مرز بین خلاقیت و جنایت را کمرنگ کرده است.

طبق گزارشی که در ۱۰ ژوئن ۲۰۲۶ در وب‌سایت dev.to منتشر شد، موارد سوءاستفاده از محتوای ساخته‌شده با هوش مصنوعی در یک سال ۱۳۲۵٪ افزایش یافته است. به نقل از این گزارش، جعل‌های عمیق (Deepfakes) — که شبیه ماسک‌های دیجیتالی بسیار دقیق هستند — اکنون از شوخی‌های سلبریتی‌ها فراتر رفته و به حملات شخصی هدفمند تبدیل شده‌اند.

برای مقابله با این بحران، مهندسان در حال تغییر استراتژی هستند. آن‌ها شناسایی ۱ به N (پیدا کردن یک چهره در میان جمعیت) را کنار گذاشته و به مقایسه‌ی جنایی ۱ به ۱ روی آورده‌اند. ابزارهایی مانند CaraComp اکنون از تحلیل «فاصله اقلیدسی» برای تأیید اصالت استفاده می‌کنند. در این روش، بردارهای هندسی دقیقی بین نقاط حساس چهره محاسبه می‌شود، از جمله:

• گوشه داخلی چشم‌ها (Medial canthus)
• طول شیار زیر بینی (Philtrum)
• انحنای خط فک

اگر این بردارها با شخص واقعی یکی باشد اما بافت پوست آثار «شطرنجی» نشان دهد، یعنی با خروجی یک مدل انتشار (Diffusion Model) — که شبیه هنرمندی است که ابتدا یک بوم پر از نویز می‌بیند و بعد کم‌کم تصویر را نمایان می‌کند — طرف هستیم. توسعه‌دهندگانی که از OpenCV، MediaPipe یا Dlib استفاده می‌کنند، باید لایه‌های ثانویه‌ای برای بررسی ناهماهنگی‌های نوری اضافه کنند. همچنین استانداردهای C2PA برای ثبت اثر انگشت دیجیتال محتوا، حیاتی شده است.

این تحول برای شما یعنی پایان عصر اعتماد به تصویر. دیگر نمی‌توانید با نگاه کردن به یک عکس، حقیقت را تشخیص دهید. اکنون باید به دنبال اعداد و ریاضیات باشید تا بفهمید چه چیزی واقعی است و چه چیزی ساخته شده است.

گام بعدی شما

• خط لوله‌های احراز هویت (IDV) خود را بررسی کنید تا مطمئن شوید تفاوت تصاویر سنتتیک و واقعی را تشخیص می‌دهند.
• بررسی کنید که آیا امکان ادغام مانیفست‌های C2PA در میکروسرویس‌های پردازش تصویر شما وجود دارد یا خیر.
• برای تشخیص جعل‌ها، به جای تکیه بر متادیتای ابری، بررسی‌های «زنده بودن» (Liveness) را به لبه‌ی شبکه منتقل کنید.

ama این تنها بخشی از بحران است؛ در گزارش بعدی بررسی می‌کنیم که چگونه استانداردهای جدید C2PA می‌توانند زنجیره‌ی اعتماد را در وب بازسازی کنند.