۵ مسیر نشت داده که ادعاهای امنیتی هوش مصنوعی درون‌سازمانی را باطل می‌کند

تصور کنید ابزاری را برای حفاظت از حساس‌ترین دارایی‌های دیجیتال خود نصب کرده‌اید، اما متوجه می‌شوید نام میزبان‌های داخلی و تکه‌هایی از پرامپت‌های شما در یک پورتال ابری شخص ثالث ذخیره شده است. در دنیای امنیت سایبری، نصب درون‌سازمانی (On-premises) — شبیه به ساختن یک حصار بلند دور خانه است که شما فکر می‌کنید هیچ‌کس وارد نمی‌شود، اما در واقع درهای پشتی کوچکی وجود دارد که سازنده ابزار از آن‌ها برای ورود استفاده می‌کند — لزوماً به معنای تضمین عدم خروج داده نیست. در واقع، نصب محلی اغلب تنها یک تصمیم در مورد محل قرارگیری سخت‌افزار است، نه یک تضمین برای مسیر جریان داده‌ها.

به نقل از گزارش AFOKUS Research در ۱۳ اوت ۲۰۲۶ (به‌روزرسانی شده در ۲۱ اوت ۲۰۲۶)، بسیاری از ابزارهای امنیتی هوش مصنوعی که روی سخت‌افزار محلی اجرا می‌شوند، به محض شروع اسکن، با شبکه سازنده ارتباط برقرار می‌کنند (Phone home). این تفاوت میان «محل اجرای کد» و «مسیر جریان داده» می‌تواند برای تیم‌های تدارکات و امنیت فاجعه‌بار باشد. در حالی که اتوماسیون در شناسایی این حفره‌ها حیاتی است، استفاده از عامل‌های هوش مصنوعی می‌تواند سرعت ترمیم این رخنه‌های امنیتی را از هفته‌ها به ساعت‌ها کاهش دهد تا ریسک نشت داده‌ها به حداقل برسد.

شکاف صفحه کنترل (The Control Plane Gap)

برای تیم‌های امنیتی و تدارکات، فاصله میان یک دموی فروش و بررسی واقعی محل استقرار داده‌ها می‌تواند بحرانی باشد. در صنایع تحت نظارت و رگوله شده، تلقیِ نصب محلی به عنوان «صفر-خروجی» (Zero-egress) اغلب منجر به نقض ناخواسته قوانین حاکمیت داده می‌شود.

فروشندگان معمولاً از عبارت «درون‌سازمانی» برای توصیف این حالت استفاده می‌کنند که فایل اجرایی (Binary) اسکنر روی سخت‌افزار شما اجرا می‌شود. این ادعا درست است اما ناقص است. بخش گمشده، «صفحه کنترل» (Control Plane) است. بسیاری از نصب‌کننده‌ها همچنان برای تایید لایسنس، فعال‌سازی پرچم‌های قابلیت (Feature Flags) و دریافت به‌روزرسانی‌های مدل به بیرون متصل می‌شوند.

اگر هر یک از این داده‌ها از مرز شبکه شما خارج شوند، این تعامل در واقع یک «گردش کار میزبانی شده» (Hosted Workflow) است که تنها یک عامل محلی (Local Agent) دارد. محل نصب نرم‌افزار این حقیقت را تغییر نمی‌دهد.

AFOKUS Research پنج مسیر خروج داده را شناسایی کرده است که فروشندگان اغلب آن‌ها را پشت برچسب «درون‌سازمانی» پنهان می‌کنند. تیم‌های خرید باید نمودار جریان داده در سطح بسته (Packet-level) را مطالبه کنند، زیرا یک اسلاید ساده با عنوان «گزینه ایزوله» (Air-gapped option) به عنوان یک نمودار فنی کافی نیست:

جزئیات مسیرهای خروج داده

• لایسنس و پرچم‌های قابلیت: ابزارهایی که بدون دسترسی به صفحه کنترل سازنده، اجرا نمی‌شوند یا برخی ماژول‌ها را غیرفعال می‌کنند. اگرچه فایل‌های لایسنس آفلاین وجود دارند، اما بسیاری از فروشندگان آن‌ها را به‌صورت پیش‌فرض ارائه نمی‌دهند.
• بسته‌های حمله و مدل‌ها: موتورهای محلی که به‌جای استفاده از رسانه‌های تاییدشده، در حین اجرا مدل‌ها یا پروب‌های جدید را دانلود می‌کنند. تنها نسخه صادقانه این قابلیت، به‌روزرسانی‌های مبتنی بر رسانه است که توسط کاربر تایید و نصب شوند.
• آپلود یافته‌ها: سیستم‌هایی که گزارش‌های آن‌ها فقط از طریق یک پورتال SaaS قابل خواندن است، به این معنی که یافته‌ها بلافاصله از مرز شبکه خارج می‌شوند. آزمون واقعی در اینجا، امکان خروجی گرفتن به صورت PDF یا JSON محلی است که به هیچ لاگین یا دسترسی به سازنده نیاز نداشته باشد.
• تونل‌های پشتیبانی: ابزارهای کمک از راه دور اختیاری که لاگ‌ها یا دسکتاپ را آینه می‌کنند. این ابزارها می‌توانند حساس‌ترین مصنوعات را در اولویت خروج قرار دهند و باید حتی در صورت «اختیاری» بودن، در محدوده بررسی امنیتی قرار گیرند.
• تله‌متری کرش و استفاده: ارسال پیش‌فرض داده‌هایی مثل نام میزبان، نسخه‌ها و تکه‌های پرامپت. حداقل استاندارد این است که تله‌متری به‌صورت پیش‌فرض خاموش باشد، قابل بازرسی باشد و امکان غیرفعال کردن آن وجود داشته باشد.

روش تایید و تست

بر اساس مستندات این پژوهش، برای تایید ادعاهای سازنده، یک «تست قطع اتصال» (Unplug Test) روی یک میزبان تحت کنترل در برابر یک هدف غیرتولیدی پیشنهاد می‌شود. در این روش، نرم‌افزار باید از روی رسانه‌ای که دریافت کرده‌اید (Pinned Media) نصب شود، نه از طریق دانلود زنده از اینترنت.

سپس تمام مسیرهای شبکه را قطع کنید، یا تنها DNSهایی را اجازه دهید که بتوانید آن‌ها را مشاهده و ثبت کنید. یک اجرای ارزیابی کوتاه را شروع کنید که باید منجر به تولید حداقل یک یافته شود. سپس گزارش را روی رسانه محلی صادر کنید. همین مراحل را پس از یک اصلاح صوری (Mock Fix) در حالی که هنوز آفلاین هستید، تکرار کنید. اگر محصول متوقف شود، منتظر سرور لایسنس بماند یا در خروجی گزارش شکست بخورد، ادعای درون‌سازمانی آن ناقص است.

مانیتورینگ شبکه در حالت متصل نیز به همان اندازه حیاتی است. ثبت مقصد و زمان بسته‌های غیرمنتظره فاش می‌کند که آیا محصول واقعاً آفلاین است یا صرفاً در پس‌زمینه در حال تلاش برای اتصال است. محصولی که تا ابد تلاش می‌کند متصل شود، همچنان یک محصول «گزارش‌دهنده به خانه» (Phone-home) است. در مقابل، محصولی که یک قابلیت را کاهش داده و شکست در اتصال را لاگ می‌کند، از طریق قرارداد راحت‌تر مدیریت می‌شود.

اثرات رگولاتوری و مالی

این تمایز برای بخش‌های مالی و پرداخت که خروجی‌های ارزیابی آن‌ها (شامل اعتبارنامه‌ها و مسیرهای دسترسی) به اندازه داده‌های تولیدی حساس است، حیاتی است. یک گزارش یافته‌ها اغلب حساس‌تر از خودِ سیستم مورد آزمایش است، زیرا در واقع یک شاخص سازمان‌یافته از مدارک اثبات ضعف‌هاست.

قوانین اقامت داده (Residency) و حاکمیت داده به این توجه دارند که مصنوعات ارزیابی کجا زندگی می‌کنند، نه اینکه فایل اجرایی از کجا کپی شده است. اگر این شاخص در ابرِ سازنده ذخیره یا پردازش شود، خودِ ارزیابی به یک تصمیم «پردازش داده» تبدیل می‌شود. اگر تیمی نتواند ثابت کند پرامپت‌ها و یافته‌ها به کجا رفته‌اند، نمی‌تواند این تعامل را در برابر یک حسابرس (Auditor) دفاع کند.

از منظر تدارکات، این موضوع بار اثبات را به دوش فروشنده می‌اندازد. یک ادعای قابل دفاع باید خسته‌کننده و قابل تست باشد: به‌روزرسانی از طریق رسانه‌های تاییدشده با نسخه‌های پین‌شده، لایسنس‌هایی که با کابل قطع‌شده کار می‌کنند و یافته‌هایی که در فرمت‌هایی که مهندس بتواند بعداً باز کند، روی دیسک شما می‌مانند.

اگر فروشنده‌ای نتواند این لیست را بدون استثنا تایید کند، این استثناها باید صراحتاً در قرارداد ذکر شوند. برای مثال، یک کانال به‌روزرسانی که فقط در پنجره‌های تعمیرات برنامه‌ریزی‌شده اجرا می‌شود، با آپلود خاموش و پنهانی یافته‌ها کاملاً متفاوت است. اگر فروشنده‌ای حاضر به ثبت این تفاوت در قرارداد نیست، پاسخ شما همین است.

برای سازمان‌هایی که به مرزهای سخت امنیتی نیاز دارند، ابزار AFOKUS Red به‌طور خاص برای شرایط صفر-خروجی روی زیرساخت‌های کنترل‌شده طراحی شده است.

گام بعدی شما

• از فروشندگان ابزارهای امنیتی AI، نمودار جریان داده در سطح بسته (Packet-level Data-flow) را بخواهید.
• تست «قطع اتصال» را روی یک محیط غیرتولیدی برای هر ابزار جدید اجرا کنید.
• بندهای مربوط به تله‌متری و آپلود خودکار یافته‌ها را در قراردادهای خرید صریح کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.