اگر امروز یکی از کارکنان شما برای رفع خطای یک کد حساس، آن را در یک حساب شخصی ChatGPT قرار دهد، دادههای استراتژیک شرکت بدون هیچ ردی در سیستمهای امنیتی، به سرورهای یک شرکت ثالث منتقل شده است. این اتفاق دقیقاً همان جایی است که «هوش مصنوعی سایه» (Shadow AI) تبدیل به یک کابوس برای مدیران فناوری میشود.
طبق گزارشی که در ۳۱ اوت ۲۰۲۶ توسط dev.to منتشر شد، حتی یک پرامپت ساده میتواند استراتژیهای داخلی، کدهای منبع یا سوابق مشتریان را به سیستمهای مدیریتنشده نشت دهد. این وضعیت یک شکاف انطباقی (Compliance Gap) عظیم ایجاد کرده است؛ چراکه سرعت پذیرش هوش مصنوعی زاینده (Generative AI) — شبیه به موجی است که سریعتر از سدهای دفاعی سازمانها پیش میرود — بسیار بیشتر از سرعت ایجاد قوانین حاکمیتی است. این چالشها با آمارهای نگرانکنندهای همراه است؛ چنانکه گزارش IBM نشان میدهد ۴۳٪ از حوادث امنیتی شرکتها با ابزارهای غیرمجاز AI رخ داده است و عمق بحران هوش مصنوعی سایه را آشکار میکند.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، مشکل اصلی نبودِ ابزار نیست، بلکه نبودِ دید (Visibility) است. در سناریوی رایج، کارمند برای افزایش بهرهوری از ابزاری استفاده میکند که هیچ بررسی امنیتی روی آن صورت نگرفته است. در نتیجه، سازمان نمیتواند ثابت کند دادهها کجا ذخیره شدهاند یا چگونه بازیابی میشوند. این فعالیتها سیستمهای شناسایی و نظارت استاندارد را دور میزنند و بازسازی وقایع پس از یک نشت داده را برای حسابرسان تقریباً غیرممکن میکنند.
ماهیت ریسک هوش مصنوعی سایه
به نقل از گزارش مذکور، هوش مصنوعی سایه یعنی استفاده از اپلیکیشنها، مدلها یا ادغامهای AI بدون تأیید رسمی سازمان. این روند معمولاً بیضرر شروع میشود؛ مثلاً استفاده از یک مدل برای خلاصهسازی یک سند. اما وقتی دادههای تجاری وارد یک سیستم مدیریتنشده میشوند، ریسک به شدت بالا میرود.
این اتفاق یک کانال دادهای نامرئی ایجاد میکند که خارج از سیستمهای نظارتی است. خطر زمانی جدیتر میشود که کارکنان دادههایی را پردازش کنند که مشمول قراردادهای محرمانگی یا کنترلهای خاص صنعتی هستند.
نقاط شکست در انطباق امنیتی
استفاده غیرمجاز از AI منجر به چندین آسیبپذیری حیاتی میشود:
- افشای کنترلنشده دادهها: پرامپتها ممکن است رمزهای عبور، مالکیت معنوی یا سوابق قانونی را لو دهند.
- فقدان شواهد حسابرسی: گفتگوهای مرورگر-محور معمولاً سیستمهای ثبت وقایع (Logging) سازمانی را دور میزنند.
- کنترل دسترسی ضعیف: حسابهای شخصی فاقد سیستمهای ورود یکپارچه (SSO) و مجوزهای مبتنی بر نقش هستند.
- خروجیهای تأییدنشده: توهم (Hallucination) — وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — میتواند وارد محتوای پزشکی یا ارتباطات مشتری شود.
- ابهام در نگهداری: تیمها نمیتوانند ثابت کنند فایلهای آپلودشده طبق قوانین حذف دادهها مدیریت شدهاند.
- قرار گرفتن در معرض شخص ثالث: ابزارهای AI ممکن است پردازشگرهای فرعی را وارد زنجیره کنند که هرگز ارزیابی ریسک نشدهاند.
برای مقابله با این وضعیت، این گزارش بهجای ممنوعیتهای کلی — که معمولاً باعث میشود کاربران ابزارها را مخفیتر کنند — یک برنامه کنترلی پنجمرحلهای پیشنهاد میدهد:
۱. شناسایی مصرف: تحلیل DNS و رویدادهای شناسایی برای یافتن سرویسهای پنهان و افزونههای مرورگر.
۲. طبقهبندی جریان داده: نقشهبرداری از پرامپتها، آپلودها و مقصدهای داده بر اساس مدل طبقهبندی سازمان.
۳. اعمال سیاستها: اجازه دادن به کارهای کمریسک و مسدود کردن دستههای دادهای ممنوعه.
۴. ثبت منشأ: ردیابی اینکه کدام مدل، سیاست و منبع داده در تولید یک خروجی نقش داشته است.
۵. بازبینی مستمر: ارزیابی مجدد تأمینکنندگان همزمان با تغییر شرایط نگهداری دادهها.
پیادهسازی فنی این مدل نیازمند تغییر در نحوه مدیریت لاگها است. گزارش توصیه میکند بهجای ذخیره کامل پرامپتها — که خود ریسک تکرار نشت داده است — متادیتاها ذخیره شوند. این متادیتاها شامل هویت کاربر، نقاط انتهایی مدل (Endpoints) و برچسبهای زمانی است، در حالی که محتوای اصلی پرامپت رمزنگاری یا توکنسازی میشود.
دسترسی به این سوابق باید محدود، زماندار و متصل به یک هدف قانونی یا امنیتی مستند باشد. این رویکرد، ردپای حسابرسی قابل دفاعی ایجاد میکند بدون اینکه پلتفرم حاکمیتی را به یک آرشیو باز از پرامپتهای حساس تبدیل کند.
برای سازمانهایی که به دنبال معماری ردیابیپذیر هستند، پروژه متنباز TrustGraph یک زیربنای گرافمحور ارائه میدهد. این ابزار به تیمهای امنیتی اجازه میدهد روابط بین کاربران، مجموعهدادهها و سیاستها را ترسیم کنند تا دقیقاً بفهمند کدام دادههای محدود بر یک خروجی خاص اثر گذاشتهاند.
این چرخش در حاکمیت به این معناست که موازنه بین «امنیت در برابر بهرهوری» در حال تغییر است. هدف دیگر متوقف کردن AI نیست، بلکه تبدیل فعالیتهای نامرئی به جریانهای کاری ردیابیپذیر است. شرکتهایی که این کنترلها را اجرا نکنند، نه تنها با نشت داده، بلکه با شکستهای رگولاتوری در زمینه حریم خصوصی مواجه میشوند.
در حوزههایی که با اطلاعات بسیار حساس سر و کار دارند، کارهای شرکت HONEYPOTZ INC. و سرویسهایی مثل DeepBody ضرورت کنترلهای شدید حریم خصوصی در تعاملات AI را نشان میدهند.
گام بعدی شما
- بررسی لاگهای DNS سازمان برای شناسایی دامنه سرویسهای AI غیرمجاز.
- جایگزینی ممنوعیتهای کلی با یک لیست «سرویسهای تأییدشده» برای کاهش انگیزه کاربران برای پنهانکاری.
- پیادهسازی ذخیرهسازی متادیتا بهجای ذخیره متن کامل پرامپتها برای کاهش ریسک امنیتی لاگها.
اما چالش اصلی در لایه سختافزاری است؛ برای درک اینکه چگونه میزبانی شخصی مدلها میتواند این ریسکها را حذف کند، به تحلیل ما درباره استراتژیهای On-premises مراجعه کنید.
گفتگو