تصور کنید یک سیاست منابع انسانی کاملاً درست است، اما لحظه‌ای که برای شخص یا کشوری اشتباه صادر شود، تبدیل به یک پاسخ غلط و خطرناک می‌شود. برای حل این نقص حیاتی در هوش مصنوعی سازمانی — یعنی به‌کارگیری دانش معتبر خارج از محدوده تعیین‌شده — آکاش راهسی (Aakash Rahsi) در ۶ اکتبر ۲۰۲۶ جزئیات چارچوب R.A.H.S.I (R.A.H.S.I. Framework™) را منتشر کرد.
به نقل از مستندات این چارچوب، مشکل زمانی رخ می‌دهد که یک عامل (Agent) — شبیه به کارمندی که دسترسی به تمام بایگانی شرکت دارد اما نمی‌داند کدام قانون برای کدام شعبه است — یک سیاست عالی برای کارکنان رسمی در هند را بازیابی کند، اما آن را برای یک پیمانکار در بریتانیا اعمال نماید. در اینجا منبع درست است و دسترسی هم تایید شده، اما نتیجه یک خطای تجاری است. این شکاف به این دلیل ایجاد می‌شود که اکثر سیستم‌ها «مرجعیت منبع» (اینکه آیا سند درست است) را با «مرجعیت تصمیم» (اینکه آیا سند برای این مورد خاص کاربرد دارد) اشتباه می‌گیرند. این چالش در واقع تکامل‌یافته‌ی همان دغدغه‌ای است که در بحث مجوزهای قابل ابطال برای مهار دسترسی‌های مدل‌های هوشمند به آن پرداختیم.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، دسترسی به داده لزوماً به معنای درک بستر کاربرد آن نیست. طبق گزارش وب‌سایت dev.to، این چارچوب «مرجعیت زمینه‌ای» را به عنوان مرز بین این دو تعریف می‌کند. برای کنترل پاسخ‌ها، به جای نتایج جست‌وجوی بهتر، به مالکیت کسب‌وکار نیاز است. این چارچوب یک فرآیند اعتبارسنجی سه‌مرحله‌ای را پیشنهاد می‌دهد:
- مالکان سیاست/محصول: محدوده دقیق و بازه‌های زمانی اعتبار یک سند را تعریف می‌کنند.
- متخصصان حوزه: تفسیر عامل از آن محدوده را تایید می‌کنند.
- مالکان عامل: مسئول نهایی رفتار عامل هوش مصنوعی باقی می‌مانند.
مایکروسافت پورویو (Microsoft Purview Unified Catalog) مسیری فنی برای این کار فراهم می‌کند و دامنه‌های حاکمیتی و محصولات داده را با شرایط استفاده تعریف‌شده مستند می‌کند. با این حال، این چارچوب استدلال می‌کند که تایید دسترسی به تنهایی نمی‌تواند تصمیم بگیرد که کدام سیاست برای یک مشتری یا کارمند خاص حاکم است. این رویکرد در واقع پاسخی است به شکست‌های سیستم‌های انطباق ایستا در مدیریت عامل‌های خودمختار که پیش‌تر بررسی کرده بودیم.
برای کاربر عملی، این یعنی عبور از دقت در تولید بازیابی‌افزا (RAG) — مثل دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند و از آن نقل می‌آورد. تغییر مسیر از پرسش «آیا این سند درست است؟» به «آیا این سند برای این کاربر خاص در این زمان خاص کاربرد دارد؟» است.
گام بعدی شما
- پیش از تبدیل پاسخ‌های مبنی‌سازی‌شده به تصمیمات خودکار، مرزهای کاربرد (Applicability Boundaries) را تعریف و تست کنید.
- نقش‌های مالکیت سیاست و متخصص حوزه را در زنجیره تایید پاسخ‌های AI تعریف کنید.
- بررسی کنید آیا سیستم مدیریت داده‌های شما (مانند Purview) متادیتای مربوط به «شرایط استفاده» را پشتیبانی می‌کند یا خیر.
اما مدیریت این مرزها در محیط‌های چندزبانه پیچیدگی‌های بیشتری دارد؛ در گزارش بعدی اثرات این چارچوب بر مدل‌های چندزبانه را بررسی خواهیم کرد.
گفتگو