تشخیص‌دهنده‌های تجاری در برابر مدل‌های انتشار؛ شکست در ۲۲٪ موارد

اگر امروز برای امنیت سازمان خود به ابزارهای تشخیص هوش مصنوعی تکیه می‌کنید، باید بدانید که احتمال خطا در هر ۵ ویدیو، یک مورد است. این یعنی در محیط‌های امنیتی حساس، حضور انسان در چرخه تصمیم‌گیری دیگر یک مزیت نیست، بلکه یک ریسک است.

بر اساس مطالعه DeepFake-Eval-2024 که در ۲۶ ژوئن ۲۰۲۶ منتشر شد، ابزارهای تجاری تشخیص جعل عمیق (Deepfake) به سقف فنی ۷۸ درصد دقت رسیده‌اند. این شکست دقیقاً زمانی رخ می‌دهد که تکنیک‌های تولید محتوا از شبکه‌های مولد تخاصمی (GAN) به سمت مدل‌های انتشار (Diffusion Model) — شبیه نقاشی‌هایی که از میان یک توده ابری از نویز ساخته می‌شوند — و ترنسفورمرهای بینایی حرکت کردند. این مدل‌های جدید، آثار بصری قدیمی مثل الگوهای نامنظم پلک زدن را کاملاً حذف کرده‌اند.

همان‌طور که در تحلیل قبلی ما درباره امنیت مدل‌های بازمتن اشاره کردیم، شکاف میان داده‌های آزمایشگاهی و دنیای واقعی همیشه یک چالش است. برای توسعه‌دهندگان، این بحران به شکل «تغییر توزیع داده» ظاهر می‌شود. طبق گزارش این مطالعه، مدلی که روی داده‌های باکیفیت 1080p آموزش دیده، وقتی با ویدیوهای کم‌نور دوربین‌های مداربسته یا ویدیوهای فشرده واتس‌اپ مواجه می‌شود، تا ۵۰ درصد از قدرت تشخیص خود را از دست می‌دهد. در واقع، تکیه به یک API ساده که فقط جواب «جعل است» یا «واقعی است» می‌دهد، شبیه قمار با نرخ شکست ۲۲ درصدی است.

برای مقابله با این وضعیت، شرکت‌هایی مثل CaraComp مسیر خود را تغییر داده و به‌جای شناسایی احتمالی، به سمت مقایسه‌ی قطعی چهره رفته‌اند. رویکرد آن‌ها بر دو محور اصلی است:

• تحلیل فاصله اقلیدسی: محاسبه فاصله ریاضی بین بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر چهره — در فریم‌های مشکوک و تصویر مرجع تایید شده.
• هندسه بیومتریک: استفاده از امتیاز شباهتی که حتی در نبود آثار بصری رایج، همچنان استوار می‌ماند. این رویکرد در حالی توسعه می‌یابد که قوانین جدید اتحادیه اروپا ریسک‌های مرتبط با سیستم‌های بیومتریک را بر اساس هدف استفاده تعریف کرده‌اند تا تعادلی میان امنیت و حریم خصوصی ایجاد شود.

این چرخش نشان می‌دهد که بازرسی بصری در فورنزیک دیجیتال عملاً مُرده است. صنعت اکنون باید اولویت خود را بر «اصالت» متمرکز کند؛ یعنی استفاده از امضاهای رمزنگاری شده و متادیتای فایل برای ایجاد زنجیره مالکیت امن.

علاوه بر این، نیاز بازار به سمت پردازش دسته‌ای تغییر کرده است. بازرسان دیگر نمی‌توانند تک‌فریم‌ها را بررسی کنند؛ آن‌ها ابزارهایی می‌خواهند که تحلیل اقلیدسی را روی صدها تصویر اجرا کرده و نقاط پرت ریاضی را شناسایی کنند. در محیط‌های حقوقی یا بیمه، یک «امتیاز اطمینان ۷۸ درصدی» از یک AI جعبه‌سیاه، بی‌فایده تلقی می‌شود.

گام بعدی شما

• اگر از APIهای تشخیص جعل استفاده می‌کنید، نرخ خطای آن‌ها را در محیط‌های کم‌نور (Low-light) مجدداً تست کنید.
• به جای تکیه بر تشخیص احتمالی، استراتژی‌های مبتنی بر امضای رمزنگاری شده (Cryptographic Signing) را بررسی کنید.
• بر روی ابزارهای تحلیل هندسه چهره (Facial Geometry) به جای تحلیل پیکسل‌ها سرمایه‌گذاری کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه چگونه پردازش‌های سنگین بیومتریک در لبه شبکه رخ می‌دهند، به تحلیل ما درباره تراشه‌های NPU مراجعه کنید.