برچسب «هوش مصنوعی» در امنیت سایبری؛ ابزار بازاریابی یا پیشرفت فنی؟

اگر امروز برای ابزاری پول می‌دهید که ادعا می‌کند «مبتنی بر هوش مصنوعی» است، اما نمی‌تواند یک حمله واقعی را متوقف کند، در واقع هیچ چیزی نخریده‌اید. سایمون ادواردز (Simon Edwards)، مدیرعامل و مؤسس SE Labs، هشدار می‌دهد که صنعت امنیت در حال غرق شدن در برچسب‌های AI است که بیشتر به جای پیشرفت فنی، نشان‌دهنده استراتژی‌های جایگاه‌سازی در بازار هستند.

ادواردز با بیش از سه دهه تجربه در پژوهش‌های امنیتی و ارزیابی محصولات، این دیدگاه را مطرح می‌کند. سوابق حرفه‌ای او حوزه‌های گسترده‌ای از جمله پژوهش‌های امنیتی، ارزیابی محصول، روزنامه‌نگاری فنی و استانداردهای صنعتی را در بر می‌گیرد. او پیش از تأسیس SE Labs در سال ۲۰۱۵، مدیریت Dennis Technology Labs را بر عهده داشت و نقش‌های رهبری ارشدی در سازمان استانداردهای تست آنتی‌مال‌ور (AMTSO) ایفا کرد و در آنجا به عنوان رئیس، مدیر و رئیس مشترک فعالیت نمود. او که از اواسط دهه ۱۹۹۰ میلادی تست محصولات امنیتی را آغاز کرده بود، پیشگام تست‌های دنیای واقعی برای آنتی‌مال‌ورها بود؛ تست‌هایی که به جای بررسی نمونه‌های ایزوله بدافزار، عملکرد سیستم را در برابر حملات کامل و تحویل‌شده از طریق اینترنت می‌سنجیدند.

SE Labs به عنوان یک شرکت مستقل در زمینه تست و مشاوره امنیت سایبری فعالیت می‌کند. پژوهشگران این شرکت تکنیک‌های مهاجمان را در کل زنجیره حمله بازسازی می‌کنند تا طیف وسیعی از محصولات را ارزیابی کنند. این محصولات شامل حفاظت از نقاط انتهایی (Endpoint Protection)، سیستم‌های تشخیص و پاسخ (EDR)، سرویس‌های امنیت ابری، فایروال‌ها، امنیت ایمیل و فناوری‌های تشخیص شبکه است. فراتر از تست‌های مقایسه‌ای عمومی، این شرکت خدماتی نظیر صدور گواهینامه، تست‌های امنیتی پیشرفته، اعتبارسنجی محصول و خدمات مشاوره را برای سازمان‌های بزرگ و فروشندگان امنیت سایبری ارائه می‌دهد. این شرکت متدولوژی‌های تست و چارچوب‌های شبیه‌سازی تهدید خود را منتشر کرده و برای ارائه خدمات تست محصولات امنیت IT، گواهینامه‌های ISO/IEC 27001:2022 و BS EN ISO 9001:2015 را دریافت کرده است.

امنیت سایبری اکنون وارد عصر بی‌ثباتی شده است و سرعت حملات در حال شتاب گرفتن است. برای دهه‌ها، صنعت بر نمونه‌های ایزوله بدافزار و تست‌های دستی و کند تکیه می‌کرد. اما امروز با ظهور عامل‌های هوش مصنوعی (AI Agents) — شبیه دستیارهای دیجیتالی که می‌توانند بدون نظارت انسان، تصمیم بگیرند و ابزارها را اجرا کنند — مهاجمان می‌توانند در عرض چند دقیقه، و نه چند روز، از مرحله شناسایی هدف به سرقت داده‌ها برسند.

این تغییر، بنچمارک‌های امنیتی سنتی را منسوخ می‌کند. اگر یک سیستم دفاعی نفوذ را تشخیص دهد اما ۲۴ ساعت بعد از خروج داده‌ها به کاربر هشدار دهد، آن سیستم در واقع شکست خورده است. به همین دلیل، صنعت اکنون نیازمند حرکتی به سمت ارزیابی در «سرعت ماشین» است تا بتواند با مهاجمانی که از AI تقویت شده‌اند، رقابت کند.

تله بازاریابی AI

ادواردز معتقد است تجربه روزنامه‌نگاری به او آموخته که هر ادعایی را به چالش بکشد، در حالی که تست‌های مستقل به او یاد داده‌اند که تنها شواهد هستند که پاسخ‌های قابل اعتماد می‌دهند. از آنجا که شرکت‌های امنیتی سال‌هاست از یادگیری ماشین و تصمیم‌گیری‌های خودکار استفاده می‌کنند، صرفاً اضافه کردن کلمه AI به نام یک محصول لزوماً به معنای یک پیشرفت فنی نیست.

او سه پرسش کلیدی برای تشخیص پیشرفت‌های واقعی AI از هایپ‌های تبلیغاتی پیشنهاد می‌دهد:

• هوش مصنوعی دقیقاً چه کاری انجام می‌دهد؟
• کدام پیامد امنیتیِ قابل اندازه‌گیری را بهبود می‌بخشد؟
• آیا یک تست‌کننده مستقل می‌تواند این بهبود را بازتولید کند؟

اگر محصول صرفاً یک فرآیند موجود را خودکار می‌کند یا مجموعه‌ای از داده‌های بزرگ را تحلیل می‌کند، برچسب AI احتمالاً یک تاکتیک جایگاه‌سازی در بازار است. یک پیشرفت واقعی باید در برابر حملات کاملاً جدید و ناشناخته عملکرد خوبی داشته باشد و فشار روی تحلیلگران انسانی را بدون ایجاد ریسک‌های جدید کاهش دهد. ادواردز اشاره می‌کند که هر چیزی غیر از این، یا هیچ بهبودی ایجاد نکرده و یا حتی باعث افت کیفیت شده است.

چارچوب تست PIVOT

برای مقابله با این ادعاها، SE Labs از برنامه تست PIVOT استفاده می‌کند. این رویکرد اصلاً بررسی نمی‌کند که آیا محصول «شامل» AI هست یا خیر، بلکه تمام تمرکز خود را بر این می‌گذارد که آیا ادعاهای امنیتی مطرح شده درست هستند یا خیر. ادواردز خاطرنشان می‌کند که برایش مهم نیست محصول چگونه کار می‌کند، تا زمانی که در عمل کار کند.

PIVOT محصولات را در معرض زنجیره‌های کامل حمله تحویل‌شده از اینترنت قرار می‌دهد. این زنجیره شامل موارد زیر است:

• شناسایی و دسترسی اولیه: جمع‌آوری داده‌ها و ایجاد جای پا در شبکه.
• اجرا و ارتقای سطح دسترسی: اجرای کدهای مخرب و کسب مجوزهای بالاتر.
• فعالیت‌های پس از نفوذ و حرکت عرضی: جابه‌جایی در شبکه برای یافتن اهداف.

برخلاف تست‌های اسکریپتی، PIVOT به «مهاجم» اجازه می‌دهد اگر یک مسیر مسدود شد، مسیرهای جایگزین معتبر را دنبال کند. تست‌کننده فقط می‌تواند از اطلاعاتی استفاده کند که واقعاً در مرحله شناسایی کشف شده است؛ آن‌ها دانشی که در یک عملیات واقعی در دسترس نیست را دریافت نمی‌کنند. این امر تضمین می‌کند که محصول امنیتی واقعاً بر نتیجه سناریو اثر می‌گذارد، نه اینکه فقط یک لیست پیش‌فرض از تکنیک‌ها را تیک بزند.

تست در سرعت ماشین

عامل‌های خودمختار AI می‌توانند کل زنجیره حمله — از شناسایی و اکسپلویت تا حرکت عرضی — را بسیار سریع‌تر از انسان‌ها اجرا کنند. ادواردز استدلال می‌کند که واحد تست باید از «تکنیک‌های تک‌به‌تک» به «کمپین‌های کامل تحت فشار زمانی» تغییر کند. تست برخی اقدامات امنیتی باید سریع اتفاق بیفتد تا واقع‌بینانه باقی بماند.

تست‌های سنتی اغلب فواصل زمانی راحتی بین مراحل حمله ایجاد می‌کنند تا تحلیل صورت بگیرد. اما یک مهاجم خودمختار این مراحل را فشرده می‌کند. این موضوع می‌تواند نقاط ضعفی را آشکار کند که در تست‌های کند نامرئی هستند؛ مانند تأخیر در تله‌متری، سیستم‌های بیش از حد تحت فشار (Overloaded) و اقدامات دفاعی که تنها پس از دستیابی مهاجم به هدفش فعال می‌شوند. برای مثال، اگر مهاجمی یک سیستم مک را هک کرده و رمزهای حساب‌ها را بدزدد، هشداری از آنتی‌ویروس که یک روز بعد ظاهر شود، هیچ کاربردی ندارد.

تست‌های موثر اکنون به ابزارهای اندازه‌گیری با رزولوشن بالا نیاز دارند تا تأخیر در تشخیص و پاسخ را بسنجند. باید تعیین شود که آیا دفاع می‌تواند بدون انتظار برای تصمیم انسانی در هر مرحله، حمله را متوقف کند یا خیر. همچنین تست‌ها باید منعکس کنند که حملات چگونه با توجه به یافته‌هایشان سازگار می‌شوند، در حالی که حقیقت زمینه‌ای (Ground Truth)، شواهد و قابلیت بازپخش (Replayability) حفظ شود. سرعت ماشین به معنای رها کردن متدولوژی کنترل‌شده نیست؛ تست‌ها باید طوری طراحی شوند که رویدادها را با همان سرعتی اندازه‌گیری کنند که سیستم‌های مورد ارزیابی کار می‌کنند.

تشخیص در برابر حفاظت

تفاوت حیاتی بین تشخیص (Detection) و حفاظت (Protection) وجود دارد. ادواردز تشخیص را به دوربین مداربسته تشبیه می‌کند: دوربین متوجه سارق می‌شود و مدرک ارائه می‌دهد، اما فیزیکی جلوی او را نمی‌گیرد. تشخیص با دفاع یکی نیست؛ یک پلتفرم می‌تواند هشداری دقیق تولید کند اما همچنان اجازه دهد مهاجم موفق شود. به همین دلیل PIVOT هر دو مورد تشخیص و حفاظت را به صورت مشترک و مجزا در تست‌های کلی می‌گنجاند.

حفاظت، فعال است. حفاظت مهاجم را بیرون می‌اندازد یا خنثی می‌کند. سازمان‌ها باید سیستم‌های AI را بر اساس توانایی‌های زیر ارزیابی کنند:

• قطع زنجیره حمله.
• محدود کردن حرکت عرضی.
• حفاظت از دارایی‌های حیاتی.
• پشتیبانی از بازیابی سریع.

یک سیستم مبتنی بر AI ممکن است خلاصه‌ای متقاعدکننده و شبیه به نوشته‌های انسانی از یک نفوذ ارائه دهد، اما یک توضیح متقاعدکننده جایگزینی برای حفاظت واقعی نیست. توضیح باید توسط شواهد پشتیبانی شود و به یک اقدام مناسب منجر گردد. بنابراین SE Labs تشخیص و حفاظت را جداگانه اندازه‌گیری می‌کند تا ببیند آیا تشخیص ادعایی، واقعاً برای مشتری قابل مشاهده و مفید بوده است یا خیر. در نهایت، ارزش یک سیستم امنیتی در تغییر نتیجه حمله است، نه صرفاً مشاهده آن.

گردش کار انسان و AI

با معرفی پلتفرم‌های امنیتی که دارای عامل‌های خودمختار برای بررسی هشدارها و انجام اقدامات اصلاحی هستند، تست‌ها باید کل گردش کار (Workflow) را ارزیابی کنند. این به معنای دنبال کردن فرآیند از اولین فعالیت مخرب تا نتیجه نهایی است، خواه حمله متوقف شود یا کاملاً موفق گردد. این رویکرد در واقع تلاشی برای جایگزینی ابزارهای تک‌بعدی با جریان‌های کاری هوشمند است که می‌توانند مسائل عملیاتی پیچیده را حل کنند.

جزئیات ارزیابی گردش کار شامل موارد زیر است:

• تحلیل عامل: عامل چه چیزی را مشاهده کرد، چه نتیجه‌ای گرفت، چه چیزی را توصیه کرد یا انجام داد و کیفیت شواهد چه بود.
• تعامل انسانی: اپراتور چه چیزی را مشاهده کرد، شفافیت تحویل کار (Handover) چقدر بود، زمان مورد نیاز، تعداد مداخلات و نحوه پاسخ اپراتور چگونه بود.
• کنترل و بازگشت‌پذیری: آیا انسان می‌توانست تصمیم عامل را بفهمد، به چالش بکشد یا آن را لغو کند.
• حالت‌های عملیاتی: تفکیک بین عامل‌هایی که اقدامات را برای تایید پیشنهاد می‌دهند و آن‌هایی که می‌توانند به طور خودکار سیستم‌ها را ایزوله کنند، حساب‌ها را غیرفعال کنند یا کنترل‌های امنیتی را تغییر دهند.

یک سیستم صرفاً به این دلیل موفق نشده است که دتکتور زیربنایی‌اش حمله را شناسایی کرده است. اگر سیستم یک صف غیرقابل فهم ایجاد کند، شواهد مهم را پنهان کند، پاسخ اشتباهی پیشنهاد دهد یا اقدامی مخرب (Disruptive) انجام دهد، کل گردش کار شکست خورده است. تست‌های مستقل باید عملکرد ترکیبی فناوری، اجزای خودمختار و افرادی که قرار است از آن‌ها استفاده کنند را بسنجند.

ریسک اصلاحات خودمختار

عامل‌های امنیتی خودمختار دسته‌ای از ریسک‌های متفاوت را معرفی می‌کنند، زیرا یک تصمیم غلط می‌تواند منجر به یک اقدام اصلاحی مخرب شود. یک «مثبت کاذب» در سیستم سنتی صرفاً یک مزاحمت است؛ اما یک مثبت کاذب در سیستم خودمختار می‌تواند یک حساب شرکتی حیاتی را غیرفعال کند یا یک سرور تولید (Production) را ایزوله نماید.

تست‌ها اکنون باید بین سه نوع شکست متمایز تفکیک قائل شوند:
۱. هشدارهای غلط: اطلاع‌رسانی نادرست درباره وجود یک تهدید.
۲. نتایج بدون پشتوانه: استدلالی که توسط شواهد موجود پشتیبانی نمی‌شود.
۳. اقدامات نادرست: پاسخ‌های خودمختار آسیب‌زا.

تست‌ها باید سیستم را در معرض فعالیت‌های قانونی که شبیه به رفتار مخرب هستند، و همچنین شواهد ناقص، مبهم یا گمراه‌کننده قرار دهند. اگر عامل محتوای غیرقابل اعتمادی را مصرف می‌کند، تست‌ها باید بررسی کنند که آیا آن محتوا می‌تواند به طور نامناسب بر تصمیمات اثر بگذارد یا خیر. استدلال باید بر اساس شواهد قضاوت شود، نه بر اساس اینکه توضیح چقدر با اعتمادبه‌نفس به نظر می‌رسد. برای اقدامات خودمختار، آزمایشگاه‌ها باید دامنه، تناسب، استفاده از مجوزها، کنترل‌های تایید، قابلیت حسابرسی و بازگشت‌پذیری را اندازه‌گیری کنند.

امتیازدهی باید منعکس‌کننده پیامدها باشد. غیرفعال کردن یک سیستم حیاتی بسیار مخرب‌تر از یک هشدار غیرضروری ساده است. با این حال، ادواردز اشاره می‌کند که گاهی مشتری پالیسی (Policy) خاصی را انتخاب می‌کند که باعث ایجاد مشکل می‌شود و این لزوماً تقصیر فروشنده نیست.

حفظ عدالت و غیرقابل‌پیش‌بینی بودن تست‌ها

برای جلوگیری از اینکه فروشندگان محصولاتشان را صرفاً برای پاس کردن یک تست خاص بهینه کنند، SE Labs تعادلی بین بازتولیدپذیری و غیرقابل‌پیش‌بینی بودن حفظ می‌کند. بازتولیدپذیری به معنای دادن سوالات امتحان به شرکت‌کنندگان از پیش نیست. در حالی که متدولوژی، محیط، اصول امتیازدهی، پیکربندی محصول و الزامات شواهد منتشر می‌شوند، اما کمپین‌های دقیق حمله، پی‌لودها (Payloads) و برخی مسیرهای حمله تا زمان اجرای تست ناشناخته می‌مانند.

در برنامه PIVOT، شرکت SE Labs فاش نمی‌کند که کدام گروه‌های مهاجم — مانند Scattered Spider — در حال بازسازی هستند تا زمانی که تست به پایان برسد. این دقیقاً بازتاب‌دهنده واقعیت است، زیرا اهداف واقعی قبل از حمله هشدار دریافت نمی‌کنند. این رویکرد یک هسته استاندارد برای مقایسه‌های بلندمدت را با تغییرات ناشناخته برای تست قابلیت‌های کلی ترکیب می‌کند. از «خط پایه» (Baselining) و یک دوره آرامش مخفی برای تعیین نحوه رفتار محصول قبل از حمله استفاده می‌شود.

عدالت به معنای اعمال قوانین و استانداردهای شواهد یکسان برای هر شرکت‌کننده است. این به معنای تکرار یک حمله به صورت چنان پیش‌بینی‌پذیری نیست که فروشنده به جای شناسایی تهدید، بنچمارک را شناسایی کند. علاوه بر این، شفافیت رادیکال به فروشندگان کمک می‌کند تا حملات را بازسازی کرده و مشکلات را حل کنند، که در واقع به SE Labs اجازه می‌دهد مشتریانش را آموزش دهد.

آینده مهاجمان

در حالی که برخی می‌ترسند AI انواع کاملاً جدیدی از حملات را ایجاد کند، ادواردز معتقد است خطر فوری در مقیاس، سرعت و کاهش هزینه است. AI می‌تواند به مهاجمان کمک کند تا اطلاعات جمع‌آوری کنند، مهندسی اجتماعی را شخصی‌سازی کنند، کدها را تغییر دهند و بخش‌هایی از یک کمپین را هماهنگ کنند. برخی حملات پیچیده‌تر خواهند شد زیرا AI کمک می‌کند تکنیک‌های موجود به هم متصل شوند یا با یک هدف خاص سازگار گردند.

با این حال، AI در تولید اکسپلویت‌های قابل اعتماد چندان خوب نیست، کاری که حتی برای انسان‌های ماهر نیز دشوار باقی مانده است. این موضوع احتمال حملات اساساً پیچیده‌تر را کاهش می‌دهد. تغییر بزرگتر این است که فعالیت‌هایی که نیاز به زمان یا مهارت قابل توجهی داشتند، اکنون می‌توانند سریع‌تر و در مقیاس وسیع‌تری روی اهداف بیشتری امتحان شوند. AI سطح شایستگی مهاجمان عادی را بالا می‌برد و به مهاجمان توانمند اجازه می‌دهد عملیات‌های بیشتری را به طور همزمان اجرا کنند. خطر اصلی، تبدیل شدن حملات آشنا به حملاتی سریع‌تر، ارزان‌تر و پرتعدادتر است.

نسل جدید محیط‌های تست

با خودمختارتر شدن عامل‌های AI دفاعی و تهاجمی، یک محیط تست معتبر باید شبیه به یک سازمان زنده باشد، نه مجموعه‌ای از اهداف ایزوله. این محیط باید شامل موارد زیر باشد:

• زیرساخت یکپارچه: نقاط انتهایی، سیستم‌های شناسایی (Identity)، ایمیل، شبکه‌ها و سرویس‌های ابری.
• فعالیت‌های واقع‌گرایانه: کاربران واقعی و ترافیک تجاری نرمال.
• ابزارهای اندازه‌گیری کامل: توانایی بازسازی هر تصمیم و پیامد.

به مهاجمان تطبیقی می‌توان اهداف و مرزهایی داد و سپس اجازه داد مسیرها را بر اساس آنچه کشف می‌کنند و نحوه پاسخ محصول دفاعی، انتخاب کنند. چنین تست‌هایی همچنان به شرایط شروع کنترل‌شده، توصیف قابل اعتماد از رویدادها و قابلیت بازپخش نیاز دارند تا از نظر علمی ضعیف نباشند.

ادواردز انتظار دارد تست‌ها برای همگام شدن با مدل‌ها و پالیسی‌هایی که مکرراً تغییر می‌کنند، به صورت مستمر (Continuous) درآیند. با این حال، چالش‌های مستمر باید مکمل بنچمارک‌های مقایسه‌ای دوره‌ای مانند PIVOT باشند. سازمان‌ها به هر دو نیاز دارند: بنچمارک‌های کنترل‌شده که از پاسخگویی پشتیبانی می‌کنند و ارزیابی‌های تطبیقی مداوم که نشان می‌دهد سیستم‌ها با تکامل تهدیدات چگونه رفتار می‌کنند.

در نهایت، هدف این نیست که یک پلتفرم «هوشمند» به نظر برسد، بلکه هدف این است که اطمینان حاصل شود نتایج امنیتی به طور مداوم ایمن‌تر هستند. خطرناک‌ترین تهدید همچنان انسان غیرماهر است که می‌تواند به یک سیستم نفوذ کند، نه یک ربات فرضی که نسل بعدی بدافزارها را خلق می‌کند.

گام بعدی شما

• هنگام خرید ابزارهای امنیتی، از فروشنده بخواهید دقیقاً بگوید AI چه «پیامد امنیتی قابل اندازه‌گیری» را بهبود داده است.
• به جای تکیه بر گزارش‌های داخلی شرکت‌ها، به دنبال نتایج تست‌های مستقل (مانند SE Labs) بگردید که زنجیره کامل حمله را می‌سنجند.
• در استقرار عامل‌های خودمختار، ابتدا حالت «پیشنهاد برای تایید» را فعال کنید تا ریسک توقف ناگهانی سیستم‌های حیاتی کاهش یابد.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell و نقش آن‌ها در استنتاج سریع امنیتی مراجعه کنید.