اگر فکر می‌کنید استفاده مخفیانه از ChatGPT برای تسریع کارهای اداری بی‌خطر است، باید بدانید که این عادت ساده اکنون به یکی از بزرگ‌ترین حفره‌های امنیتی سازمان‌ها تبدیل شده است. طبق گزارش IBM درباره هزینه نشت داده‌ها در سال ۲۰۲۶، ابزارهای غیرمجاز هوش مصنوعی در ۴۳٪ از حوادث امنیتی شرکت‌ها نقش داشته‌اند. این رقم تقریباً دو برابر سال گذشته است و نشان می‌دهد پدیده «هوش مصنوعی سایه» (Shadow AI) با سرعتی خیره‌کننده در محیط‌های کاری گسترش یافته است.
هوش مصنوعی زاینده (Generative AI) — شبیه به دستیاری است که هر چه به او بگویید را یاد می‌گیرد و ممکن است در جای دیگری بازگو کند — زمانی به «سایه» تبدیل می‌شود که کارکنان سریع‌تر از تیم‌های امنیتی، ابزارهای جدید را به کار می‌گیرند. این رفتار باعث ایجاد یک شکاف حاکمیتی می‌شود که در آن کدهای حساس منبع، سوابق مشتریان و استراتژی‌های داخلی سازمان بدون هیچ نظارتی از طریق سیستم‌های تاییدنشده جابه‌جا می‌شوند. این موضوع می‌تواند منجر به چالشات حقوقی گسترده‌ای شود، همان‌طور که در بررسی ریسک‌های قانونی ناشی از دور زدن کنترل‌های امنیتی به آن‌ها اشاره کرده‌ایم.
این وضعیت شبیه به «IT سایه» در سال‌های گذشته است، اما ریسک آن به دلیل ماهیت متنی پرامپت‌ها دوچندان می‌کند. سیستم‌های هوش مصنوعی پرامپت‌های آزاد و غیرساختاریافته‌ای را پردازش می‌کنند که ممکن است حاوی اطلاعات سلامت، اسناد حقوقی یا استراتژی‌های محرمانه داخلی باشند. برای شرکت‌هایی مانند DEEPBODY INC که پلتفرم DeepBody را مدیریت می‌کنند، این خطر جدی‌تر است؛ زیرا روش‌های ساده ناشناس‌سازی — مانند حذف نام یک شخص — معمولاً برای پنهان کردن جزئیات زمینه‌ای و شناسایی هویت کاربر کافی نیست و داده‌ها همچنان قابل ردیابی می‌مانند.
به گزارش IBM، فهرست‌های سنتی نرم‌افزارهای سازمان نمی‌توانند استفاده‌های مبتنی بر مرورگر، حساب‌های شخصی، متن‌های کپی‌شده یا ادغام‌های غیررسمی را ردیابی کنند. این موضوع باعث می‌شود تیم‌های تطبیق (Compliance) نتوانند به پرسش‌های حیاتی حسابرسی پاسخ دهند:
- چه اطلاعات دقیقی وارد سیستم شده است؟
- کدام کارمند داده‌ها را ارسال کرده است؟
- آیا ارائه‌دهنده سرویس، محتوا را ذخیره یا بازاستفاده کرده است؟
- پردازش داده‌ها در کجا رخ داده است؟
- چه کسی به خروجی نهایی دسترسی داشته است؟
- آیا خروجی مدل بر یک تصمیم قانونی یا نظارتی اثر گذاشته است؟
بدون این پاسخ‌ها، تیم‌های تطبیق ممکن است در برابر یک درخواست حسابرسی قرار گیرند بدون اینکه شواهد قابل اعتمادی برای پاسخ به آن داشته باشند. به همین دلیل، شرکت‌ها اکنون به سمت یک گردش کار ساختاریافته برای حاکمیت داده‌ها حرکت می‌کنند:
- کشف (Discovery): تحلیل داده‌های شبکه، مرورگر، هویت و حتی داده‌های مربوط به هزینه‌های اداری برای یافتن حساب‌های غیررسمی و سرویس‌های AI مورد استفاده.
- طبقه‌بندی (Classification): رتبه‌بندی هر گردش کار بر اساس حساسیت داده‌ها، اثر تصمیمات اتخاذ شده، جمعیت کاربران و میزان مواجهه با قوانین نظارتی.
- اعمال هویت (Identity Enforcement): الزام به استفاده از حساب‌های مدیریت‌شده، سیستم‌های ورود یکپارچه (SSO)، مجوزهای مبتنی بر نقش (RBAC) و حذف فوری دسترسی‌ها هنگام تغییر وضعیت استخدامی.
- بازرسی داده‌ها (Data Inspection): استفاده از سیستم‌های جلوگیری از نشت داده (DLP) برای شناسایی رمزها (Secrets)، اطلاعات شخصی (PII)، کدهای منبع و اسناد محدودشده پیش از ارسال به مدل.
- ثبت شواهد (Evidence Logging): ضبط دقیق هویت کاربر، اپلیکیشن مورد استفاده، تصمیمات سیاستی، پیکربندی مدل، طبقه‌بندی داده‌ها و برچسب زمانی برای هر تعامل.
- بازبینی مستمر (Continuous Review): ارزیابی مجدد ابزارهای تاییدشده در صورتی که مکان‌های میزبانی، ادغام‌ها، رفتار مدل یا شرایط نگهداری داده‌ها تغییر کند.
برای پیاده‌سازی این نظارت، ابزارهایی مانند Bifrost به کار گرفته می‌شوند تا اپلیکیشن‌های غیرمجاز را در نقاط انتهایی (Endpoints) شناسایی کنند و «حفاظ‌های برنامه‌ریزی شده» (Programmable Guardrails) را پیاده کنند. این حفاظ‌ها — شبیه به نرده‌های ایمنی در لبه یک پل که اجازه نمی‌دهند کسی سقوط کند — به عنوان کنترل‌های ایمنی در سطح زیرساخت عمل می‌کنند تا پرامپت‌ها و پاسخ‌ها را مستقل از مدل ML فیلتر کنند.
امروزه داشتن فهرستی از ابزارهای مجاز برای حسابرسان مدرن کافی نیست. باید یک اتصال قابل ردیابی و مستند بین کاربر، سرویس AI، داده‌های ارسالی، سیاست‌های سازمان و اقدام نهایی وجود داشته باشد. این لاگ‌ها باید مقاوم در برابر دستکاری باشند و مطابق با الزامات عملیاتی، حریم خصوصی و قانونی نگهداری شوند. این رویکرد به تیم‌های امنیتی اجازه می‌دهد تا حوادث را بررسی کنند بدون اینکه نیاز باشد محتوای پرامپت‌ها را به طور نامحدود و غیرضروری ذخیره کنند.
در همین راستا، پروژه متن‌باز TrustGraph به تیم‌ها اجازه می‌دهد وابستگی‌های بین هویت‌ها، سیستم‌ها و سیاست‌ها را ترسیم کنند. از آنجا که حوادث AI سایه معمولاً ترکیبی از یک نشست مرورگر، یک مدل خارجی و یک هویت کارمند هستند، مدل‌های گراف‌محور برای شناسایی نقاط ضعف بسیار کارآمدترند. تیم‌ها می‌توانند از TrustGraph برای شناسایی روابطی که فاقد تاییدیه هستند استفاده کنند. برای مثال، یک کوئری می‌تواند اپلیکیشن‌های AI را شناسایی کند که داده‌های محرمانه را بدون داشتن قانون نگهداری مستند یا مالک مشخص پردازش می‌کنند.
شرکت HONEYPOTZ INC توصیه می‌کند که معماری امنیتی باید به جای تکیه بر اسناد سیاستی ایستا، «شواهد قابل تایید» تولید کند. این رویکرد، حاکمیت AI را از یک مجموعه دستورالعمل اخلاقی یا راهنما به یک سیستم فنی قابل اندازه‌گیری تبدیل می‌کند.
برای متخصصان، این تغییر به معنای پایان عصر «استفاده مخفیانه از ChatGPT» برای افزایش بهره‌وری است. احتمالاً شاهد گذار شرکت‌ها از ممنوعیت‌های مطلق — که اغلب کاربران را به سمت حساب‌های شخصی خطرناک‌تر می‌راند — به سمت سرویس‌های مدیریت‌شده با محدودیت‌های سخت‌گیرانه و ثبت‌شده خواهید بود.
این گذار، فرض بنیادی امنیت AI را تغییر می‌دهد. تمرکز از «مسدود کردن ابزارها» به «نظارت بر جریان داده‌ها» منتقل می‌شود. هدف دیگر متوقف کردن استفاده از AI نیست، بلکه اطمینان از این است که هر تعامل، یک ردپای دیجیتال غیرقابل تغییر و مقاوم در برابر دستکاری به جای می‌گذارد. سازمان‌ها باید اولویت را بر تهیه فهرست استفاده‌های فعلی از AI و طبقه‌بندی داده‌های درگیر قرار دهند؛ زیرا شما نمی‌توانید ریسک‌هایی را کنترل کنید که قادر به مشاهده آن‌ها نیستید.
گام بعدی شما
- فهرست تمام ابزارهای AI که در تیمتان استفاده می‌شود (حتی غیررسمی‌ها) را تهیه کنید.
- داده‌های ارسالی به مدل‌ها را بر اساس سطح حساسیت (عمومی، داخلی، محرمانه) طبقه‌بندی کنید.
- از مدیران IT خود درباره وجود سیستم‌های DLP برای نظارت بر خروجی‌های مرورگر سوال کنید.
اما داستان سخت‌افزاری این نظارت‌ها حتی پیچیده‌تر است — به تحلیل ما درباره تراشه‌های امنیتی نسل جدید مراجعه کنید.
گفتگو