اگر هنوز برای تشخیص ویدیوهای جعلی در تماس‌های شرکتی به چشم انسان تکیه می‌کنید، در واقع دارید روی میلیون‌ها دلار سرمایه قمار می‌کنید. شرکت Arup این حقیقت تلخ را با یک ضرر ۲۵ میلیون دلاری تجربه کرد.
جعل عمیق (Deepfake) — که شبیه به یک ماسک دیجیتالی است که چهره و صدای فرد را با دقت خیره‌کننده تقلید می‌کند — دیگر فقط ویدیوهای لرزان و غیرطبیعی نیست. طبق گزارش dev.to که در ۵ مه ۲۰۲۶ منتشر شد، ۷۶٪ از سازمان‌های بریتانیا همین حالا هم هدف حملات جعل عمیق بوده‌اند. تشخیص این موارد با چشم، شبیه تلاش برای شناسایی اسکناس تقلبی با نگاه کردن ساده است، در حالی که باید از چراغ فرابنفش استفاده کرد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های زاینده اشاره کردیم، لایه‌های دفاعی سنتی در برابر مدل‌های پیشرفته فرو می‌ریزند. به همین دلیل، توسعه‌دهندگان اکنون به سمت تحلیل فاصله اقلیدسی (Euclidean distance analysis) می‌روند؛ روشی که مثل اندازه‌گیری دقیق فاصله بین نقاط روی یک نقشه است تا بفهمند آیا الگوهای چهره با داده‌های واقعی مطابقت دارد یا خیر. این متد یک امتیاز اطمینان ریاضی تولید می‌کند که جایگزین حدس و گمان انسانی می‌شود.
بر اساس مستندات فنی، استک‌های امنیتی مدرن اکنون به این قابلیت‌ها نیاز دارند:
- بررسی متادیتای منشأ (Provenance metadata) — شبیه به یک پاسپورت دیجیتال که ثابت می‌کند فایل از کجا آمده و چه کسی آن را تغییر داده است — هنگام آپلود.
- پردازش دسته‌ای برای مقایسه هم‌زمان دارایی‌های شناخته‌شده و ناشناخته.
- گزارش‌های PDF استاندارد برای ارائه در دادگاه که معیارهای شباهت را مستند می‌کنند.
استانداردهای قانونی نیز در حال سخت‌گیرتر شدن هستند. طبق گزارش‌های حقوقی، قوانینی مثل «قانون ۷۰۷ ادله فدرال» اکنون از شرکت‌ها «دقت معقول» در تأیید اصالت رسانه می‌خواهند. این یعنی بار اثبات از دوش چشمِ بازرس به دوش کدِ توسعه‌دهنده منتقل شده است. برای شرکت‌های کوچک، تفاوت بین یک قرارداد سازمانی ۲ هزار دلاری و یک API ارزان‌قیمت ۲۹ دلاری مثل سرویس CaraComp، دیگر فقط بحث هزینه نیست؛ بلکه مرز بین بقای حرفه‌ای و پذیرش مسئولیت حقوقی کامل است.
گام بعدی شما
- اگر مدیر عملیات هستید، پروتکل‌های تأیید هویت در تماس‌های ویدئویی را از «تشخیص بصری» به «تأیید دو مرحله‌ای سخت‌افزاری» تغییر دهید.
- ابزارهای تحلیل متادیتای فایل‌ها را در گردش‌کار دریافت اسناد حساس ادغام کنید.
- برای تیم‌های فنی، بررسی APIهای تشخیص بیومتریک در لحظه (Real-time) را در اولویت قرار دهید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ اثر این پردازش‌های سنگین بر نیاز به تراشه‌های نسل جدید را در گزارش بعدی بررسی خواهیم کرد.
گفتگو