انتخاب مدل هوش مصنوعی در محیط‌های سازمانی، فراتر از یک تنظیم فنی برای افزایش کیفیت است؛ این یک تصمیم حقوقی و امنیتی است. اگر شما مدیر IT یا توسعه‌دهنده هستید که در حال مقیاس‌دهی به عامل‌های هوش مصنوعی در سازمان خودید، باید بدانید که انتخاب مدل بدون نظارت می‌تواند منجر به نشت داده‌های حساس شود. این چالش‌های مقیاس‌دهی دقیقاً همان نقطه‌ای است که مکانیزم «هارنس» برای مدیریت عامل‌های هوش مصنوعی در سطح سازمانی به عنوان یک راهکار ساختاری معرفی شده است.
طبق اعلام آکاش راهسی (Aakash Rahsi)، متخصص IT، در ۶ آگوست ۲۰۲۶، سازمان‌ها برای جلوگیری از ریسک‌های عملیاتی باید از چارچوب R.A.H.S.I استفاده کنند. او با تکیه بر ۱۳ سال تجربه در راهکارهای ابری و اسکریپت‌نویسی PowerShell، تأکید می‌کند که انتخاب مدل در نقطه تلاقی پیچیده‌ای از امنیت، قوانین اقامتی داده‌ها و ریسک‌های عملیاتی قرار دارد.
بسیاری از شرکت‌ها این اشتباه استراتژیک را می‌کنند که ابتدا اجازه می‌دهند سازندگان، مدل را انتخاب کنند و سپس سوالات نظارتی را بپرسند. این رویکرد نادیده می‌گیرد که مدل‌های مختلف — چه مدل‌های عمومی، چه مدل استدلالی (Reasoning Model) — که مثل شطرنج‌بازی پیش از حرکت چند گام جلوتر را می‌بیند، یا مدل‌های مسیریابی خودکار، ریسک‌های متفاوتی در زمینه تأخیر و محل ذخیره داده‌ها دارند. در حالی که مدل‌های پیشرو مانند Claude Fable 5 در محک‌های تخصصی صنعت پیشتا شده‌اند، خطر زمانی رخ می‌دهد که «بهترین مدل» تنها بر اساس کیفیت خروجی تعریف شود، بدون اینکه بررسی شود آیا آن مدل با قوانین قضایی یا محیط تولید سازگار است یا خیر.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، فقدان لایه‌های نظارتی می‌تواند منجر به ایجاد «AI سایه» در سازمان شود. برای حل این مشکل، راهسی یک «دروازه ریسک مدل» هفت‌مرحله‌ای را پیشنهاد می‌کند تا مدیریت مدل‌ها را نظام‌مند کند.
گردش‌کار نظارتی
- طبقه‌بندی حجم کاری: ابتدا باید مشخص شود عامل با چه نوع داده‌ای سروکار دارد: عمومی، داخلی، محرمانه، رگولاتوری، شخصی، مالی یا داده‌های دارای امتیاز حقوقی. انتخاب مدل تنها پس از این مرحله آغاز می‌شود.
- تطبیق قابلیت‌ها: استفاده از مدل‌های استدلالی تنها زمانی توجیه می‌شود که پیچیدگی وظیفه، هزینه‌های بالاتر، تأخیر بیشتر و مواجهه عملیاتی را جبران کند. قدرتمندترین مدل، لزوماً مناسب‌ترین مدل نیست.
- تأیید انتشار: تفاوت بین مدل‌های «در دسترس همگانی» (GA)، مدل‌های «پیش‌نمایش» (Preview) و «تجربی» باید کاملاً روشن باشد. مدل‌های پیش‌نمایش نباید در محیط‌های عملیاتی حساس به کار روند.
- شناسایی ارائه‌دهنده: بررسی اینکه آیا مدل‌ها توسط مایکروسافت، پردازش‌کنندگان فرعی مایکروسافت یا ارائه‌دهندگان خارجی اجرا می‌شوند. هر ارائه‌دهنده قراردادها و شرایط نگهداری داده‌های متفاوتی دارد.
- بررسی جغرافیایی: اطمینان از اینکه داده‌ها از مرزهای منطقه‌ای تعریف‌شده خارج نمی‌شوند. این شامل بررسی چارچوب‌هایی مانند EU Data Boundary، FedRAMP و PCI DSS است.
- دامنه مدیریتی: کنترل دسترسی‌ها از طریق گروه‌های امنیتی Microsoft Entra، محیط‌های Power Platform و تنظیمات اداری Microsoft 365. دسترسی به مدل‌های پیش‌نمایش باید یک تصمیم نظارتی مجزا باشد.
- کنترل‌های حسابرسی: همراستاسازی مدل با سیستم حسابرسی Microsoft Purview، سیاست‌های پیشگیری از نشت داده (DLP) و کنترل‌های دسترسی با کمترین امتیاز.
این چارچوب تمرکز را از «بهترین خروجی» به «بهترین تناسب» تغییر می‌دهد. سازمان‌ها با تبدیل انتخاب مدل به یک دروازه تولید، از ارسال داده‌های مالی یا حقوقی حساس به مدل‌هایی که فاقد انطباق قضایی هستند، جلوگیری می‌کنند. در چارچوب R.A.H.S.I، انتخاب مدل مستلزم ارائه شواهدی برای هدف تجاری، مناسب بودن داده، پاسخگویی ارائه‌دهنده و آمادگی برای انتشار است.
اعمال این کنترل‌ها به این معناست که تغییر مدل بدون ارزیابی مجدد، به عنوان یک «تغییر ریسک تأییدنشده» در سازمان تلقی شود. این نظم سخت‌گیرانه مانع از نفوذ هوش مصنوعی غیرمجاز به جریان‌های کاری تولید می‌شود. سازمان‌ها باید اکنون عامل‌های Copilot Studio خود را بازرسی کنند تا ببینند آیا مدل فعلی با طبقه‌بندی داده‌های آن‌ها هم‌راستا است یا خیر.
گام بعدی شما
- لیست تمام عامل‌های فعال در Copilot Studio را استخراج کنید و نوع داده‌های ورودی آن‌ها را طبقه‌بندی نمایید.
- مدل‌های پیش‌نمایش (Preview) را از جریان‌های کاری حساس حذف کرده و با مدل‌های پایدار جایگزین کنید.
- یک چک‌لیست تأییدیه (Approval Gate) برای هر تغییر در انتخاب مدل در چرخه DevOps خود بگنجانید.
این نظم‌بخشی به داده‌ها تنها نیمی از مسیر است؛ برای درک چگونگی بهینه‌سازی هزینه این مدل‌ها در مقیاس سازمانی، به تحلیل ما درباره‌ی استراتژی‌های کاهش هزینه استنتاج مراجعه کنید.
گفتگو