تصور کنید برنامهنویسی هستید که برای رفع یک باگ پیچیده، بهجای طی کردن فرآیند طولانی درخواست دسترسی به ابزار رسمی شرکت، کد حساس پروژه را در یک حساب شخصی ChatGPT میچسباند تا در چند ثانیه جواب بگیرد. این دقیقاً همان نقطهای است که لیستهای «ابزارهای تأییدشده» در سازمانها فرو میپاشند.
به گزارش unite.ai، لیستهای ابزارهای مجاز که روی کاغذ برای رعایت استانداردهای انطباق عالی به نظر میرسند، در برابر فشار عملیاتی شکست میخورند. کارکنان بهسادگی از ایمیلهای شخصی برای دسترسی به هوش مصنوعی زاینده (Generative AI) استفاده میکنند، بهویژه زمانی که مسیرهای رسمی نیازمند VPNهای کند، تیکتهای پیچیده یا قابلیتهای محدود باشند. این رفتار شبیه به استفاده از یک میانبر غیرقانونی در ترافیک برای رسیدن سریعتر به مقصد است.
این شکاف باعث ایجاد محیطی به نام «هوش مصنوعی سایه» (Shadow AI) شده است؛ جایی که سرعت پذیرش ابزارها بسیار بیشتر از چرخه حاکمیت و نظارت است. در حالی که تیمهای IT ممکن است ماهها برای تدوین یک سیاست امنیتی وقت صرف کنند، یک واحد تجاری میتواند در یک بعدازظهر یک گردشکار جدید با AI را پیاده کند. این نامرئی بودن، ریسک اصلی برای سازمانهای مدرن است. یک سیاست هوش مصنوعی یا لیست ابزارهای تأییدشده، نشان نمیدهد که AI در واقع کجا استفاده میشود، چه دادههایی به اشتراک گذاشته میشوند و تحت چه شرایطی این اشتراکگذاری صورت میگیرد.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، خطر اصلی نه در خودِ مدل، بلکه در پذیرش کنترلنشده است. وقتی کارکنان کدهای منبع حساس، دادههای مشتریان یا متون قراردادها را در سیستمهای تأییدنشده قرار میدهند، ریسک افشای دائمی مالکیت معنوی (IP)، نشت دادهها و انتقال تصادفی حقوق مالکیت از طریق شرایط استفادهی تامینکنندگان بهشدت بالا میرود. این آسیبپذیریها فارغ از اینکه ابزار مورد استفاده چقدر محبوب باشد یا ادعای «سازمانی بودن» داشته باشد، وجود دارند.
شکست حاکمیت ابزارمحور
طبق گزارشهای منتشر شده، لیستهای سنتی نرمافزارهای تأییدشده به این دلیل میشکنند که اصطکاک موجود در فرآیندهای اداری، کاربران را به سمت ابزارهای جایگزین سوق میدهد. ریسک واقعی در دادهها و گردشکارها نهفته است، نه در خودِ اپلیکیشن خاص. اگر مسیر رسمی کندتر یا محدودکنندهتر از جایگزینهای سطح مصرفکننده باشد، تیمها راه خودشان را برای دور زدن آن پیدا میکنند.
برخی از سناریوهای رایج «هوش مصنوعی سایه» عبارتاند از:
- پذیرش پلتفرمهای اضافی توسط واحدهای تجاری بدون انجام بررسیهای امنیتی یا فرآیندهای خرید رسمی.
- اجرای مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — بهصورت محلی توسط توسعهدهندگان برای دور زدن کنترلهای وب.
- استفاده از حسابهای شخصی توسط کارکنان برای خلاصهسازی اسناد محرمانه یا دیباگ کردن کدهای اختصاصی شرکت.
- قرار دادن دادههای حساس در سیستمهای باز که حقوق مالکیت دادهها در آنها نامشخص است.
تشکیل گروه نظارت بر هوش مصنوعی
برای پر کردن این شکاف دیداری، سازمانها باید یک «گروه نظارت بر هوش مصنوعی» یا کمیتهای رسمی تشکیل دهند. این تیم چندوظیفهای، مالکیت شفافی برای حاکمیت AI ایجاد میکند و بهعنوان مرکز تصمیمگیری سازمان برای پذیرش و نظارت بر این فناوریها عمل میکند.
این کمیته بهطور معمول شامل نمایندگانی از بخشهای زیر است:
- فناوری اطلاعات (IT) و امنیت
- انطباق (Compliance) و امور حقوقی
- مدیریت حریم خصوصی و ریسک
- واحدهای تجاری کلیدی
این گروه بهعنوان دروازهبان حاکمیت عمل کرده و وظایف زیر را بر عهده دارد:
- ایجاد فرآیندهای رسمی برای دریافت درخواست، بررسی و تأیید فناوریهای جدید AI.
- ارزیابی ریسک و تعیین کنترلهای مناسب بر اساس نیازهای تجاری و حساسیت دادهها.
- ارائه آموزشهای مستمر به کارکنان درباره منطق و دلیل پشت قوانین وضع شده.
- انتشار موارد استفاده (Use Cases) تأییدشده و پاسخ به پرسشهای واحدهای مختلف تجاری.
- اطلاعرسانی درباره انتظارات در حال تغییر، همزمان با بلوغ فناوریهای AI.
چرخش به سمت حفاظهای دادهمحور
حاکمیت مؤثر باید استفادهی پذیرفتنی را به طبقهبندی دادهها گره بزند، نه به ترجیحات ابزاری. این رویکرد، گفتگو را از «آیا این ابزار در لیست است؟» به این تغییر میدهد که «چه دادهای را وارد میکنید و پیامدهای پاییندستی آن بر حقوق مالکیت، نگهداری و آموزش مدل چیست؟» برای پیادهسازی چنین ساختاری، میتوان از مدلهای لایهبندی حاکمیتی برای مقیاسپذیری امن بهره برد تا دسترسی به دادهها بهصورت دقیقتر مدیریت شود.
سطوح پیشنهادی برای طبقهبندی دادهها:
- دادههای عمومی: ورودیهای کمریسک (مانند متون بازاریابی، اسناد عمومی و مثالهای پاکسازی شده) که استفاده از آنها در ابزارهای خارجی تأییدشده مجاز است.
- دادههای داخلی: دادههایی که فقط در سیستمهای تأییدشده سازمانی، همراه با حفاظتهای قراردادی و ثبت وقایع (Logging) مناسب، مجاز هستند.
- دادههای محرمانه/تنظیمی: دادههایی که بهطور پیشفرض در ابزارهای خارجی ممنوع هستند و برای استفاده، نیاز به استثنای مستند، کنترلهای جبرانی و تأییدیه رسمی دارند.
حتی یک مدل سادهشده نیز اگر با مثالهای شفاف همراه باشد و بهطور روزانه تقویت شود، برای هدایت رفتار کارکنان کافی است. هدف این است که پیشفرضهای امنتری ایجاد شود تا تیمها بتوانند سریع حرکت کنند، بدون اینکه هر بار با ظهور یک ابزار جدید، مجبور باشند ریسکها را از صفر مذاکره کنند.
sichtbar کردن هوش مصنوعی سایه
دیداری بودن نیازمند سیگنالهای فنی است تا گردشکارهای ریسکی پیش از تبدیل شدن به عملیات عادی شناسایی شوند. شما نمیتوانید چیزی را که نمیبینید مدیریت کنید. سازمانها میتوانند از کنترلهای CASB (کارگزار امنیت دسترسی ابری) یا SSE (لبه سرویس امنیتی) برای نظارت بر نقاط اتصال (Endpoints) رایج AI استفاده کنند.
سایر مکانیزمهای ضروری عبارتاند از:
- سیستمهای DLP (جلوگیری از نشت داده) که برای شناسایی الگوهای خاص کپی-پیست و آپلود در AI تنظیم شدهاند.
- استفاده از SSO (ورود یکپارچه) برای شناسایی هویتهای سازمانی که از سرویسهای غیررسمی استفاده میکنند (در صورت امکان).
- تلهمتری در محیطهای توسعه برای ردیابی استفاده از مدلهای محلی که کنترلهای وب را دور میزنند.
- ارزیابیهای فصلی سبک برای شناسایی اینکه چه ابزارهایی، برای چه گردشکارهایی و با چه نوع دادههایی در حال استفاده هستند.
هدف از این اقدامات، پوشش کامل یا تنبیه تجربیات جدید نیست، بلکه شناسایی زودهنگام گردشکارهای ریسکی و اولویتبندی جایگزینهای امنتر است.
ایجاد مسیرهای سریع برای پذیرش
حاکمیت زمانی شکست میخورد که تنها پاسخ «نه» باشد. سیستمهای بالغ باید پیشفرضهای امن و مسیرهای سریع ایجاد کنند تا ابهام کارکنان کاهش یابد و تصمیمگیریهای لحظهای و بدون برنامه برای تیمهای نظارتی کم شود.
این اقدامات شامل موارد زیر است:
- آموزشهای سناریومحور با مثالهای واقعی از دنیای کسبوکار.
- مسیرهای ارجاع شفاف با توافقنامههای سطح خدمات (SLA) تعریفشده برای پاسخدهی.
- کتابخانهای کوتاه از موارد استفاده پیشتأییدشده، همراه با مثالهای صریح از ورودیهای «مجاز» و «غیرمجاز».
در بخش خرید و حقوقی، شرکتها باید محرکهای بررسی (Review Triggers) و یک چکلیست استاندارد شامل موارد زیر داشته باشند:
- بازه نگهداری دادهها و محرمانگی
- حقوق آموزش مدل و مالکیت معنوی (IP)
- اعلانهای مربوط به نقض دادهها و پردازشکنندگان فرعی
در نهایت، سازمانها باید یک «استاندارد حداقل شواهد» تعریف کنند. در صورت وقوع ممیزی یا حادثه، شرکت باید بتواند سیاستها، سوابق تکمیل آموزش، منطق تأیید ابزار، پوشش ثبت وقایع و اقدامات اجرایی را ارائه دهد.
رویکردی قابل دفاع برای مقیاسپذیری
هوش مصنوعی به تغییر خود ادامه خواهد داد، بنابراین مدل حاکمیت باید طولانیتر از هر ابزار یا تامینکننده خاصی باشد. یک رویکرد قابل دفاع با اصول تکرارپذیر شروع میشود: طبقهبندی دادهها، تعریف مسیر حرکت دادهها، ایجاد دیداری فنی و ارائه حفاظهای کاربردی.
مالکیت نظارت مستمر بر چشمانداز AI باید به کسی واگذار شود. به دلیل ظهور سریع مقررات جدید، قابلیتهای مدلها و بردارهای تهدید، «گروه نظارت بر هوش مصنوعی» باید بهعنوان یک نهاد دائمی نظارتی و مشورتی عمل کند. این امر تضمین میکند که حاکمیت بهجای یک تمرین سالانه و ایستا، به یک دیسیپلین عملیاتی مرتبط تبدیل شود.
با بررسی و بهبود فصلی برنامه، کسبوکارها میتوانند اطمینان حاصل کنند که حفاظها با ابزارهای جدید و انتظارات رگولاتوری همگام هستند. این کار از دادههای حساس و مالکیت معنوی محافظت میکند و در عین حال به کسبوکار اعتماد میدهد تا AI را مقیاسپذیر کند، بدون اینکه هر مورد استفاده جدید به یک وضعیت اضطراری امنیتی تبدیل شود.
گام بعدی شما
- دادههای سازمان خود را به سه سطح عمومی، داخلی و محرمانه تقسیم کنید و برای هر سطح یک ابزار مجاز تعیین کنید.
- یک جلسه ماهانه با تیمهای مختلف برای شناسایی ابزارهای «سایهای» که در حال حاضر در تیمها استفاده میشود برگزار کنید.
- چکلیست حقوق مالکیت دادهها را هنگام خرید هر سرویس AI جدید به قرارداد اضافه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو