اگر امروز برای امنیت سیستم خود به کپچاها تکیه میکنید، باید بدانید که سد دفاعی شما فرو ریخته است. پشتههای پیشگیری از تقلب شما در حال حاضر در برابر دشمن اشتباهی تنظیم شدهاند. در حالی که اکثر تیمهای مدیریت ریسک هنوز در حال تنظیم قوانینی برای شناسایی جعلهای انسانی یا مزارع رباتها هستند، عاملهای هوش مصنوعی (AI Agents) بهطور خاموش این فرض را که برخی وظایف برای انسان ساده و برای ماشین سخت است، به کلی از بین بردهاند. این پاکشدن مرزها در حوزههای تشخیص تصویر، پر کردن فرمها و پیمایشهای چندمرحلهای بهطور یکسان رخ داده است.
برای سه دهه، صنعت امنیت بر این باور بود که ماشین در آزمونی که انسان بدون فکر پاس میدهد، شکست میخورد. این دوران زمانی به پایان رسید که پژوهشگران در تست مدلهای حلکننده خودکار در برابر چالشهای تصویری reCAPTCHA v2 گوگل، نرخ موفقیت ۱۰۰٪ را گزارش کردند. این یک جهش خیرهکننده نسبت به کارهای قبلی است که نرخ موفقیت را بین ۶۸ تا ۷۱ درصد میدیدند. نکته کلیدی و تکاندهنده این است که پژوهشگران هیچ تفاوت معناداری بین تعداد چالشهایی که یک ربات برای عبور نیاز داشت و تعداد دفعاتی که یک انسان تلاش میکرد، پیدا نکردند.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، سرعت تکامل ابزارهای حمله همواره از لایههای دفاعی پیشی میگیرد. این تغییر رویکرد در زمانی رخ میدهد که طبق دادههای تاماس کادار (Tamás Kádár)، مدیرعامل SEON، ترافیک خودکار اکنون بیش از ۵۳٪ از کل ترافیک وب را تشکیل میدهد. سهم فعالیتهای انسانی به ۴۷٪ کاهش یافته و این روند همچنان ادامه دارد؛ وضعیتی که یک نقطه کور ساختاری در سیستمهای امنیتی ایجاد کرده است، زیرا این سیستمها بر اساس محدودیتهای انسانی ساخته شدهاند. این آسیبپذیریها تنها محدود به رباتها نیست، بلکه استفاده از ابزارهای غیرمجاز AI در محیطهای سازمانی نیز طبق گزارشهای اخیر، بخش بزرگی از حوادث امنیتی شرکتها را به خود اختصاص داده است.
شکست قوانین انسانمحور
پشتههای سنتی پیشگیری از تقلب بر اساس «سرعت انسانی» (Human Pacing) برای شناسایی تهدیدات طراحی شدهاند. هر قانونی در یک پشته بالغ، در برابر یک حریف خاص تنظیم شده بود؛ مثلاً انسانی که تظاهر میکند شخص دیگری است، یا یک مزرعه ربات که تظاهر میکند چندین انسان است. این قوانین اکنون در برابر هوش مصنوعی عاملمحور (Agentic AI) تا حد زیادی ناکارآمد هستند:
- بررسیهای سرعت (Velocity Checks): این قوانین برای شناسایی باز کردن حسابهایی طراحی شده بودند که سریعتر از توان منطقی یک انسان است؛ اما عاملهای هوش مصنوعی فرمها را در زمانی پر میکنند که یک انسان هنوز در حال خواندن اولین فیلد است.
- قوانین بازاستفاده از دستگاه: این قوانین بر اساس هزینه فیزیکی خرید سختافزار جدید بنا شده بودند؛ در حالی که عاملهای هوش مصنوعی را میتوان با هزینهای نزدیک به صفر ایجاد کرد، یکبار استفاده نمود و سپس دور انداخت.
- بیومتریک رفتاری: این سیستمها برای شناسایی تردید، لرزش، مکث یا خطاهای کوچک انسانی ساخته شده بودند؛ اما عاملهای هوش مصنوعی با دقت ماشینی عمل میکنند و هیچ ردی از این نوسانات انسانی باقی نمیگذارند.
علاوه بر این، ۲۷٪ از حملات رباتها اکنون مستقیماً APIها را هدف قرار میدهند و با دور زدن کامل رابط کاربری (UI)، با سرعت ماشین عمل میکنند. خدمات مالی هدف اصلی این حملات هستند و در سال ۲۰۲۵، ۲۴٪ از کل حملات رباتها و ۴۶٪ از حوادث تصاحب حساب (Account Takeover) را به خود اختصاص دادهاند. قوانینی که بر اساس سرعت انسانی ساخته شده بودند، هرگز نمیتوانستند ترافیکی را شناسایی کنند که اصلاً مفهومی به نام «سرعت انسانی» ندارد.
بحران هویت و جعل عمیق
احراز هویت در حال حاضر فوریترین حوزه برای بازنگری و کالیبراسیون مجدد است. تیمهای تقلب پیش از این یک دیسیپلین کامل را بر اساس شناسایی «نشانه های انسانی» (Human Tells) بنا کرده بودند؛ مواردی مانند نرخ غیرطبیعی پلک زدن، عدم تطابق لبها با صدا (Lip-syncing) یا آرتیفکتهای بافتی در یک عکس. اما ابزارهای جعل عمیق (Deepfake) اکثر این شکافها را بستهاند. این چالشها در حوزههای نظارتی نیز نمود یافته است، بهطوری که محدودیتهای سیستمهای تشخیص چهره در برزیل نشان داد که تکیه بر شناسههای بصری بدون در نظر گرفتن ریسکهای رفاهی و امنیتی میتواند به توقف کامل این سیستمها منجر شود.
جنایتکاران دیگر نیازی به ساخت این ابزارها توسط خودشان ندارند. عملیات «جعل عمیق بهعنوان سرویس» (Deepfake-as-a-service) در بازارهای وب تاریک، اکنون کیتهای هویت مصنوعی را میفروشند. این کیتها شامل آواتارهای ویدیویی تولید شده توسط AI، شبیهسازی صدا (Voice Cloning) و دادههای بیومتریک هستند. بر اساس ارزیابی تهدیدات تقلب مالی جهانی اینترپل (Interpol) که در مارس ۲۰۲۵ منتشر شد، این ابزارها به مهاجمان اجازه میدهند تنها با ۱۰ ثانیه فایل صوتی استخراجشده از یک پست در شبکههای اجتماعی، کلونهای دیجیتالی متقاعدکنندهای بسازند.
این نوع تقلبهای تقویتشده با هوش مصنوعی، اکنون تقریباً ۴.۵ برابر سودآورتر از روشهای سنتی هستند. اینترپل گزارش میدهد که تقلبات مالی در سال ۲۰۲۵ بیش از ۴۴۲ میلیارد دلار از اقتصاد جهانی خارج کرده است.
حرکت به سمت هوش لایهای
مبارزه با هوش مصنوعی از طریق مدلهای «جعبه سیاه» (Blackbox) اغلب مشکل را پیچیدهتر میکند. برخورد با یک مدل جعبه سیاه به عنوان یک راهکار جادویی در برابر یک حریف جعبه سیاه، وضعیت را بدتر میکند. مدلی که نتواند تصمیم خود را توضیح دهد، در برابر رگولاتورها، مشتریان یا حسابرسان داخلی در صورت به چالش کشیده شدن تصمیم، تقریباً غیرقابل دفاع است.
دفاعپذیری مستلزم حاکمیت مدل (Model Governance) است. این به معنای توانایی نمایش دقیق این است که کدام مدل فعال است، چه تغییری نسبت به نسخه قبل داشته، مدل بر اساس چه اطلاعاتی آموزش دیده است و چه کسی این تغییر را چرا تأیید کرده است. سیستمی که برای بهروزرسانی خودکار مدل AI ساخته شده، هرگز برای ایجاد چنین ردپای مستنداتی طراحی نشده است.
به همین دلیل، شرکت SEON رویکرد «هوش لایهای» (Layered Intelligence) را پیشنهاد میکند. این استراتژی بر عمق سیگنالها در ابعاد مستقل تکیه دارد تا هویتهای جعلی، حسابهای هکشده یا پولشویها (Money Mules) جایی برای پنهان شدن نداشته باشند:
- ابعاد مستقل: هر بعد اضافی، فرصتی مجزا برای شناسایی تناقضات یا شناسایی قطعاتی از یک زیرساخت مشترک تقلب فراهم میکند.
- وزن زمینهای: هیچ سیگنال واحدی نباید تمام بار تصمیم را به دوش بکشد. هرچه زمینه گستردهتر باشد، یک سرنخ مبهم و ایزوله به چیزی تبدیل میشود که تیم تقلب بتواند واقعاً از آن پشتیبانی کند.
- یکپارچگی دادهها: موتور ریسک هوش مصنوعی هوشمندتر از دادههای ورودیاش نیست. حذف نیمی از ابعاد، منجر به سیستمی میشود که با اطمینان کامل اما بر اساس نیمی از تصویر استدلال میکند.
به جای جستوجوی مدارک شناسایی جعلی، تمرکز باید به تداوم (Continuity) تغییر کند. تداوم یعنی گذشته دیجیتالی که یک هویت واقعی طی سالها فعالیت عادی در حسابها و الگوهای رفتاری جمع کرده است؛ تاریخچهای که هویتهای مصنوعی و عاملها زمان ساخت آن را ندارند. سیستمی که فقط به دنبال یک مدرک شناسایی جعلی میگردد، به شکست خود ادامه خواهد داد، در حالی که سیستمی که به دنبال «تاریخچه گمشده» است، با هدفی روبروست که جعل آن بسیار سختتر است. در واقع، همانطور که دقت ابزارهای تشخیص AI در برابر متون انسانی مورد تردید قرار گرفته، در حوزه امنیت نیز تکیه بر تشخیصهای لحظهای بهجای تحلیل تداوم، منجر به خطاهای سیستمی میشود.
پیشفرض جدید ریسک
هوش مصنوعی عاملمحور اکنون میتواند بهطور مستقل کل کمپینهای تقلب، از شناسایی هدف (Reconnaissance) تا درخواست باج، را بدون نیاز به اپراتور انسانی در چرخه اجرا کند. این به معنای پانیک نیست، و ادعایی نیست که تقلب انسانی ناپدید شده است؛ بلکه استدلالی است مبنی بر اینکه پشتههای امنیتی تنظیمشده بر اساس محدودیتهای انسانی، دقیقاً در جایی که عاملهای AI عمل میکنند، دچار نقطه کور ساختاری هستند.
راهکار، اضافه کردن یک قانون جدید به سیستم قدیمی نیست، بلکه بازسازی پیشفرضهاست. آزمون حیاتی دیگر این نیست که «آیا کاربر شبیه یک کلاهبردار انسانی است؟»، بلکه این است که «آیا اصلاً انسانی پشت این تراکنش وجود داشته است یا خیر؟»
با تغذیه جزئیات کامل نشستها (Session Details) به مدلهای استدلالی (Reasoning Models) بهجای جعبههای سیاه تکسیگنال، تصمیمات قابل دفاع میشوند. این تمایز در برابر عاملهای AI اهمیت بیشتری دارد زیرا آنها ردپای متفاوتی بر جای میگذارند. آنها لرزش ندارند؛ اما «ردپایی» در سنّ اعتبارنامههای مورد استفاده و انسجام تاریخچه دستگاه بر جای میگذارند. برای مثال، یک عامل ممکن است در حالی که اعتبارنامههای شخص دیگری مصرف میشود، بهطور خاموش یک ابزار دسترسی از راه دور (Remote-access tool) را در پسزمینه اجرا کند. شناسایی این مورد نیازی به خواندن چهره ندارد؛ بلکه تنها نیازمند توانایی تحلیل کامل جزئیات نشست در برابر یک مجموعه سیگنال گسترده است.
گام بعدی شما
- بازنگری در وابستگی به CAPTCHA و جایگزینی آن با تحلیلهای رفتاری مبتنی بر تداوم (Continuity).
- انتقال از مدلهای تشخیص تقلب تکبعدی به استراتژی هوش لایهای برای شناسایی هویتهای مصنوعی.
- پیادهسازی مدلهای استدلالی برای تحلیل نشستها بهجای تکیه بر قوانین سختگیرانه سرعت (Velocity).
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو