تصور کنید به یک عامل هوش مصنوعی همان دسترسیهای ثابت یک کارمند انسانی را بدهید؛ این یعنی دعوت از یک فاجعه در محیط عملیاتی. روآن استوارت، مدیر ارشد محصول در بخش ایمنی و پلتفرم AI در شرکت Transcend، هشدار میدهد که عاملها چون فاقد «عقل سلیم» هستند، دستورات را دقیقاً اجرا میکنند — حتی اگر این مسیر مستقیماً به پرتگاه ختم شود — مگر اینکه حاکمیت داده (Governance) درست در نقطه استفاده از داده تعبیه شده باشد.
بیشتر سازمانها در حال حاضر حاکمیت داده را به عنوان یک بررسی نهایی و «گیر انداختن» پیش از استقرار در تولید میبینند. این رویکرد شکافی خطرناک ایجاد میکند زیرا عاملهای خودمختار برخلاف نرمافزارهای سنتی عمل میکنند. آنها وظایف را تفویض کرده و تصمیمات را بهصورت زنجیرهای اتخاذ میکنند؛ بهگونهای که هیچ انسانی نمیتواند با استفاده از دستورالعملهای قدیمی مدیریت دسترسی و هویت (IAM) بر آنها نظارت کند.
همانطور که در تحلیل قبلی ما دربارهی پروتکلهای مدیریت حافظه در مدلهای زاینده اشاره کردیم، چالش فعلی صنعت از دقت سادهی مدلها به اخلاقیات جابجایی دادهها تغییر یافته است. به نقل از مصاحبهای با unite.ai، شکست اصلی در این است که با «رضایت کاربر» (Consent) مانند یک اتفاق یکباره برخورد میشود، نه یک ویژگی پویا که باید همراه با خودِ داده جابجا شود.
بستر تحول: از NLP تا استراتژی سازمانی
روآن استوارت بیش از یک دهه تجربه تخصصی را با خود به نقش فعلیاش در Transcend آورده است. سوابق او طیف گستردهای از توسعه محصولات هوش مصنوعی و یادگیری ماشین، نرمافزارهای سازمانی، پردازش زبان طبیعی (NLP) و استراتژی داده را شامل میشود. او تجربه گستردهای در رهبری محصولات «صفر تا یک» (Zero-to-One) دارد.
او در ابتدای مسیر شغلی خود بر زیرساختهای فنی AI تمرکز داشت. استوارت توسعه APIهای پردازش زبان طبیعی (NLP) را برای تحلیل هوشمند اینفلوئنسرها مدیریت کرد. این ابزارها قابلیتهای پیشرفتهای از جمله تحلیل احساسات (Sentiment Analysis)، گرافهای دانش (Knowledge Graphs)، ارزیابی شخصیت، شناسایی باتها و بررسی ایمنی برند (Brand-safety) را در بر میگرفتند.
او پیش از پیوستن به Transcend، نزدیک به ۶ سال در BCG X فعالیت کرد. در این جایگاه، استوارت به سازمانهای بزرگ کمک کرد تا استراتژیهای هوش مصنوعی خود را بازبینی کرده و فرآیندهای داخلیشان را بازسازی کنند. تمرکز اصلی کارهای او در آن دوره، خلق محصولاتی بود که نتایج تجاری قابل اندازهگیری را برای برخی از بزرگترین سازمانهای جهان به ارمغان بیاورند.
استوارت اشاره میکند که فضای AI با سرعتی باورنکردنی در حال حرکت است. او تأکید میکند که در دو سال اخیر، ظهور عاملها و اهمیت حیاتی مدیریت حافظه بلندمدت — بهویژه با اشاره به OpenClaw — ریسکهای جدیدی را وارد کرده است. اگرچه این عاملها کیفیت و ارزش بالاتری ارائه میدهند، اما بهطور همزمان ریسکهای عملیاتی بیشتری را نیز ایجاد میکنند.
چرا حاکمیت دادههای ایستا شکست میخورند؟
استوارت با تکیه بر تجربهاش در BCG X، الگوی تکرارشوندهای را مشاهده کرد: حاکمیت داده زمانی وارد میشود که دیگر برای اثرگذاری دیر شده است. او با شرکتهایی در تمام مراحل بلوغ AI همکاری کرده و دریافت که حاکمیت اغلب به عنوان یک مانع نهایی دیده میشود، نه به عنوان یک فونداسیون یا زیربنا.
او چهار نقطه کور بحرانی را در استراتژیهای فعلی شرکتها شناسایی کرده است:
- مشکل وصلهپینه (The Patchwork Problem): وقتی حاکمیت در پایان مسیر اضافه میشود، تنها یک وصله روی سیستمی است که هرگز برای نظارت طراحی نشده است. این اتفاق زمانی میافتد که تیمها برای سریعتر عرضه کردن محصول پیش میروند و تنها درست پیش از تولید است که به موضوع رضایت کاربر یا مجوزها میپردازند.
- زوال رضایت (Consent Decay): شرکتها به اشتباه تصور میکنند رضایتی که کاربر هنگام ثبتنام داده است برای همیشه معتبر است. آنها نادیده میگیرند که کاربران ممکن است ترجیحات خود را بهروزرسانی کنند یا مقررات جدید قانونی، آنچه را که مجاز است تغییر دهد. رضایت باید مانند یک برچسب، همراه با داده در تمام سیستمها جابجا شود.
- سیلوهای فنی (Technical Silos): مجوزها اغلب به عنوان یک جزئیات IT یا حقوقی دیده میشوند که در پسزمینه و در سکوت مدیریت میشوند. اما وقتی AI بر اساس دادهها تصمیم میگیرد، مجوزدهی به یک پرسش محوری در سطح محصول و تجاری تبدیل میشود.
- منسوخ شدن سریع (Snapshot Obsolescence): سیاستهای استاتیک، وضعیت سیستم را فقط در یک لحظه خاص ثبت میکنند. اما AI ساکن نیست؛ مدلی که شش ماه بعد اجرا میشود ممکن است با مدلی که سیاستها برای آن نوشته شده بود، کاملاً متفاوت باشد. بازبینیهای فصلی یا سالانه نمیتوانند با سرعت سیستمهای تطبیقی پیش بروند.
مدیریت «زنجیره عاملمحور»
وقتی شبکهای از عاملهای هوش مصنوعی (AI Agents) — مثل تیمی از دستیاران مجازی که هر کدام تخصص خاصی دارند و با هم همکاری میکنند — با یکدیگر تعامل دارند، کنترلهای دسترسی سنتی میشکنند. معماریهای امنیتی فعلی فرض میکنند در انتهای هر اقدام، یک انسان قرار دارد. این فرض اجازه میدهد انسان شناسایی شود، به او اعتماد شود و در صورت بروز خطا، پاسخگو باشد.
اما عاملها انسان نیستند. یک عامل ممکن است مجوز داشته باشد که یک رکورد را بخواند، ابزاری را فراخوانی کند و نتایج را به عامل دیگری تحویل دهد. هر یک از این گامها بهتنهایی ممکن است منطقی به نظر برسند. با این حال، «اقدام ترکیبی» (Composite Action) حاصل از این زنجیره اتفاقات، اغلب چیزی است که هیچ انسانی صراحتاً آن را تأیید یا تصویب نکرده است.
سیستمهای IAM سنتی میتوانند تأیید کنند که آیا یک عامل مجوز دسترسی به سیستم را داشته یا خیر، اما نمیتوانند تشخیص دهند که آیا دادهی مورد استفاده، تحت رضایتی جمعآوری شده که این کاربرد خاص را پوشش دهد یا نه. این یک تضاد بنیادین بین «مجوز فنی» (Technical Permission) و «رضایت اخلاقی» (Ethical Consent) است.
شرکت Transcend که در سال ۲۰۱۷ توسط بن بروک (مدیرعامل) و مایک فارل (مدیر فنی) تأسیس شد و دفتر مرکزی آن در منطقه خلیج سانفرانسیسکو قرار دارد، با کدگذاری مجوزهای استفاده از داده مستقیماً در سیستمهای سازمانی به این مشکل پاسخ میدهد. این شرکت به عنوان یک پلتفرم تصمیمگیرنده دادههای خودمختار عمل میکند تا به این پرسش حیاتی پاسخ دهد: «آیا من میتوانم از این داده استفاده کنم؟»
با ارائه یک منبع حقیقت (Source of Truth) بللحظه برای رضایتها، ترجیحات و قوانین تجاری، Transcend به شرکتهای Fortune 500 و پیشروان نوظهور اجازه میدهد تا ابتکارات دادههای دست اول (First-party data) خود را مقیاسپذیر کنند. این کار تضمین میکند که کیفیت دادهها برتر باشد، برند از طریق استفاده اخلاقی محافظت شود و تطبیقپذیری قانونی در مقیاس وسیع و آمادهی حسابرسی باقی بماند.
زیرساخت بللحظه در برابر بازبینی دستی
در مرحله آزمایش (Experimentation)، تیمها اغلب به بازرسیهای دستی و حسابرسیهای دورهای تکیه میکنند چون ریسکها پایین است. اما این مدل در مقیاس استقرار در تولید (Production) میشکند. مقیاس AI عاملمحور باعث میشود چک-لیستها و جلسات نظارتی به یک سناریوی «باخت-باخت» تبدیل شوند.
در این مدل دستی، تیمهای امنیتی و انطباق (Compliance) تنها یک «قول شفاهی» دریافت میکنند، بدون اینکه نظارتی مستمر وجود داشته باشد. در مقابل، تیمهای محصول زیر بار بازبینیهای خستهکنندهای میروند که ارزش افزودهی کمی برای کاربر نهایی ایجاد میکند. تنها راهکار ممکن، زیرساختهای بللحظه است. این زیرساختها مجوزها را دقیقاً در لحظهی جابجایی داده یا اتخاذ تصمیم اجرا میکنند، نه اینکه سعی کنند بعد از وقوع یک شکست، وقایع را بازسازی کنند.
مالیات «شلختهبازی» (Slop Tax)
استوارت مفهومی به نام «مالیات شلختهبازی» یا Slop Tax را معرفی میکند؛ یعنی کاهش ارزش ادراکشده از خروجیهای AI چون کاربران یاد گرفتهاند به محتواهای تولیدشده توسط مدلها بیاعتماد باشند. این وضعیت به چندین شکل ظاهر میشود:
- کاربران حتی زمانی که اطلاعات AI درست است، اعتبار آن را زیر سوال میبرند و تخفیف میدهند.
- الگوهای بصری تکراری (مثل پالت رنگی استاندارد Claude) باعث میشود یک سایت فارغ از کیفیت طراحی، «ارزانقیمت» به نظر برسد.
- استفاده بیش از حد از برخی سبکهای نوشتاری، مانند تکرار زیاد خط تیره (em dashes)، محتوا را بهعنوان «ساختهی AI» لو میدهد و کاربر را آزار میدهد.
برای رفع Slop Tax، استوارت تغییری به سمت شفافیت و جمعآوری شواهد را پیشنهاد میکند. در همین راستا، Transcend اخیراً قابلیتی به نام «استفاده از AI تامینکنندگان» (Vendor AI Usage) را عرضه کرد. این ابزار اطلاعات عمومی موجود درباره ویژگیهای AI و وضعیت حاکمیت داده در شرکتهای برتر را استخراج میکند تا به تیمهای تدارکات، امنیت و فعالسازان AI کمک کند.
Transcend با استفاده از یک چارچوب ارکستراسیون چندعامل-ه (Multi-agent orchestration framework)، بهبود چشمگیری در کیفیت و استحکام انطباق ایجاد کرد. این سیستم شواهد را با استفاده از لینکهای منابع و نقلقولهای مستقیم نمایش میدهد. این رویه «تضمین کیفیت عاملمحور» (Agent QA) تضمین میکند که نتایج برای کاربر بهتر باشد و انطباق قانونی نیرومندتر گردد. این نوع رویکرد دقیق به سنجش عملکرد، یادآور تحولاتی است که در ابزارهای آموزشی رخ داده است؛ برای مثال، شرکت Synthesia با تحلیل دادههای رفتاری توانسته است شبیهسازیهای آموزشی را به ابزاری برای سنجش دقیق عملکرد کارکنان تبدیل کند.
مزیت رقابتی در حاکمیت داده
سازمانهایی که شکاف حاکمیتی را پر کنند، سریعتر از کسانی که در «برزخ پایلوت» (Pilot Purgatory) گیر کردهاند پیش میروند. استوارت مشاهده کرد شرکتهایی که حاکمیت را به عنوان یک موضوع ثانویه میدیدند، همیشه در آخرین مرحلهی بررسی پیش از مقیاسبندی، غافلگیر میشدند.
در مقابل، شرکتهایی که حاکمیت را از روز اول در سیستم میپایهریزی میکنند، با چنان سطح از اعتمادبهنفسی عمل میکنند که تازهواردان هرگز به آن نمیرسند. آنها مجبور نیستند نگران باشند که در هنگام حسابرسی نهایی، متوجه شوند AI آنها چگونه از دادهها استفاده کرده است.
به باور استوارت، در ۳ تا ۵ سال آینده، بزرگترین ریسک کمتر-برآوردشده، مدل «بهارثبری مجوزهای کاربر توسط عاملها» است. چون AI فاقد قضاوت انسانی است، دستورات را دقیقاً اجرا میکند، حتی اگر آن دستورات به یک نتیجه فاجعهبار منجر شود.
حاکمیت اکنون از یک ردیف هزینه در لیستهای رعایت قوانین، به یک موتور استراتژیک تبدیل شده است. این همان مکانیسمی است که به سازمانها اجازه میدهد AI را سریعتر و با اعتمادبهنفس بیشتری نسبت به کسانی که هنوز به فرآیندهای دستی تکیه میکنند، مستقر نمایند. شکاف بین کسانی که مجوزهای بللحظه را پیاده میکنند و کسانی که از سیاستهای استاتیک استفاده میکنند، تعیین میکند چه کسی مقیاسپذیر میشود و چه کسی شکست میخورد.
اگر در حال حاضر در حال استقرار عاملها هستید، ارزیابی کنید که آیا مجوزهای شما استاتیک (ثابت) هستند یا بللحظه. این تفاوت تعیین میکند که ابتکارات AI شما به یک دارایی مقیاسپذیر تبدیل شود یا یک بدهی (Liability) خطرناک.
گام بعدی شما
- بررسی کنید آیا مجوزهای عاملهای AI شما استاتیک (ثابت) هستند یا بللحظه (Dynamic).
- ارزیابی کنید که آیا «رضایت کاربر» در سیستم شما به عنوان یک ویژگی متصل به داده جابجا میشود یا فقط یک رکورد در دیتابیس است.
- برای کاهش Slop Tax، مکانیسمهای ارجاع به منابع (Source Linking) را در خروجیهای عاملهای خود پیاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو