چرا عامل‌های هوش مصنوعی در محیط‌های واقعی با شکست مواجه می‌شوند؟

تصور کنید یک مدیر عملیات در یک شرکت هواپیمایی هستید و ناگهان طوفانی سهمگین هزاران پرواز را لغو می‌کند؛ در این لحظه، یک سیستم هوش مصنوعی که فقط در محیط آزمایشگاهی موفق بود، احتمالاً در برابر درخواست‌های متناقض مسافران فرو می‌پاشد. اما یک عامل هوش مصنوعی توانست در ۶ روز، بیش از ۳۸۰۰ مسافر را در بحران طوفان «فرن» در آمریکا مجدداً رزرو کند. این آزمون فشار (Stress Test) خاص که توانایی مدیریت تغییرات پیچیده در برنامه‌های سفر را تحت فشاری شدید نشان داد، کیتی استاین (Katie Stein) را متقاعد کرد تا نقش خود را به عنوان مدیرعامل Atain رها کرده و در اوت ۲۰۲۶ به عنوان مدیرعامل شرکت ASAPP بپیوندد.

استاین با بیش از دو دهه تجربه در استراتژی‌های شرکتی، تحول دیجیتال و رشد سازمانی به این جایگاه رسیده است. سوابق او شامل هشت سال فعالیت در Genpact است، جایی که او به عنوان مدیر ارشد استراتژی و رهبر جهانی کسب‌وکار برای خدمات سازمانی و تحلیل‌ها فعالیت می‌کرد. در آن جایگاه، او بر ابتکارات ادغام و تملک (M&A)، سبدهای خدمات بزرگ، استراتژی شرکتی و تجربه مشتری نظارت داشت. پیش از آن، او نقش‌های رهبری ارشدی در Mercer داشت و به عنوان مدیر عملیاتی جهانی برای کسب‌وکار ۲.۵ میلیارد دلاری بازنشستگی، بهداشت و مزایا فعالیت می‌کرد و همچنین به عنوان رهبر پروژه در گروه مشاوره بوستون (BCG) مشغول به کار بود. مسیر شغلی او عمدتاً بر کمک به سازمان‌های بزرگ برای بهبود عملکرد عملیاتی و اجرای تحولات پیچیده کسب‌وکار متمرکز بوده است.

بسیاری از سازمان‌ها در تله‌ی فاز پایلوت گیر کرده‌اند. آن‌ها مدلی را در محیط کنترل‌شده تست می‌کنند، اما وقتی سیستم با میلیون‌ها تعامل زنده مواجه می‌شود، شکست می‌خورد. این شکاف به این دلیل وجود دارد که شرکت‌ها «دم بلند» (Long Tail) را دست‌کم می‌گیرند؛ یعنی همان موارد نادر و غیرقابل‌پیش‌بینی که در مقیاس بزرگ، هر روز اتفاق می‌افتند. در یک محیط آزمایشی، موارد استفاده (Use Cases) تعریف شده‌اند؛ اما در محیط تولید، مشتریان ناگهان تغییر مسیر می‌دهند، اطلاعات ناقص ارائه می‌کنند یا نیازهای خود را به گونه‌ای ترکیب می‌کنند که هیچ‌کس پیش‌بینی نکرده بود.

با تکیه بر تغییر جهت به سمت گردش‌کارهای عامل‌محور (Agentic Workflows)، صنعت در حال فاصله گرفتن از چت‌بات‌های ساده و حرکت به سمت سیستم‌هایی است که واقعاً می‌توانند وظایف را اجرا کنند. این رویکرد در واقع تلاشی برای جایگزینی ابزارهای تک‌بعدی با جریان‌های کاری هوشمند برای حل مسائل عملیاتی پیچیده است. با این حال، انتقال از یک دموی ساده به یک سیستم مقیاس‌پذیر در محیط تولید، نیازمند چیزی فراتر از یک مدل قوی‌تر است؛ این مسیر مستلزم تغییر بنیادین در معماری، یکپارچگی با سیستم‌های سازمانی، حاکمیت (Governance)، نظارت و انضباط عملیاتی سخت‌گیرانه است.

مدل ارکستراسیون ترکیبی

شرکت ASAPP که در سال ۲۰۱۵ تأسیس شد، از یک پلتفرم تجربه مشتری (CXP) بومیِ هوش مصنوعی استفاده می‌کند که عامل‌های هوش مصنوعی، تخصص انسانی، داده‌های مشتری و سیستم‌های سازمانی را در هر دو کانال صوتی و دیجیتال گرد هم می‌آورد. هسته این سیستم، عامل زاینده (GenerativeAgent) است که برای درک گفتگوها، استدلال روی درخواست‌ها و انجام اقدامات از طریق سیستم‌های متصل طراحی شده است. این نوع اتوماسیون عامل‌محور مشابه آن چیزی است که در سیستم‌های تخصیص هوشمند صدا برای تولید محتوای صوتی مشاهده می‌کنیم، جایی که هوش مصنوعی وظایف پیچیده را به جای دستورات ساده اجرا می‌کند.

طبق اعلام این شرکت، پلتفرم آن‌ها کل تعامل را به یک موجودیت واحد نمی‌سپارد، بلکه از یک لایه ارکستراسیون برای تقسیم تصمیمات بر اساس ریسک، پیچیدگی و نیاز به پاسخگویی استفاده می‌کند:

• هوش مصنوعی زاینده (Generative AI) — مثل مترجمی که لحن و قصد مشتری را می‌فهمد و گفتگو را طبیعی پیش می‌برد — برای درک نیت، تفسیر بافتار (Context) و تطبیق طبیعی با مشتری به کار می‌رود.
• گردش‌کارهای قطعی (Deterministic Workflows) — شبیه به یک دفترچه دستورالعمل سخت‌گیرانه که هیچ جای بحث ندارد — با تحمیل سیاست‌های سخت‌گیرانه شرکت، مراحل تأیید و توالی‌های انطباق، ثبات را فراهم می‌کنند. این ساختار، گفتگو را از فرآیند کسب‌وکار جدا می‌کند و تضمین می‌کند که تراکنش‌های حیاتی پیش‌بینی‌پذیر باقی بمانند.
• متخصصان انسانی: در موارد مبهم، استثنایی یا تصمیماتی که پیامدهای سنگین دارند، وارد عمل می‌شوند.

استاین تأکید می‌کند که هدف، دستیابی به حداکثر خودمختاری نیست. هدف، حل نیازهای مشتری در حالی است که سطح درستی از کنترل در هر نقطه تصمیم‌گیری اعمال شود. این معماری به سازمان‌ها اجازه می‌دهد تا تجربه مشتری منعطفی را حفظ کنند و در عین حال تضمین کنند که فرآیندهای کسب‌وکار در نقاطی که مطلقاً نباید تغییر کنند، صلب و ثابت بمانند. همچنین این مدل باعث می‌شود فرآیندها با تکامل مدل‌ها، راحت‌تر تست، حسابرسی و بهبود یابند.

حل چالش «دم بلند»

در محیط تولید، موارد نادر تبدیل به اتفاقات روزمره می‌شوند. به گزارش استاین، تعداد نسبتاً کمی از تماس‌ها اغلب بخش نامتناسبی از زمان پاسخگویی (Handle Time) را به خود اختصاص می‌دهند. این‌ها همان موارد لبه‌ای (Edge Cases) هستند که هیچ FAQ، مقاله دانشی یا دستورالعمل عملیاتی استانداردی برای آن‌ها وجود ندارد، زیرا سازمان هنوز پاسخی برای آن‌ها کدنویسی نکرده است.

در این لحظات، تنها راهکار، خلاقیت انسانی است. انسان‌ها بیشترین ارزش را زمانی خلق می‌کنند که ابهامات را تفسیر کرده، ملاحظات متضاد را متعادل کنند و در جایی که هیچ دستورالعمل تثبیت‌شده‌ای وجود ندارد، قضاوت به کار گیرند.

به جای انتقال کامل تماس به انسان — که به معنای رها کردن اتوماسیون است — هوش مصنوعی ابتدا بستر و زمینه (Context) لازم را جمع‌آوری کرده و یک درخواست مشخص را به متخصص ارائه می‌دهد. پس از اینکه انسان قضاوت خود را ارائه کرد، هوش مصنوعی دوباره تعامل را به دست می‌گیرد. این فرآیند نه تنها مشکل فوری را حل می‌کند، بلکه به گسترش پایگاه دانشی درباره مواردی که هوش مصنوعی می‌تواند در آینده حل کند، کمک می‌کند.

امنیت و حاکمیت در مقیاس بزرگ

با حرکت سازمان‌ها به سمت استفاده از چندین عامل متخصص که با هم همکاری می‌کنند، چالش‌های جدیدی در زمینه هماهنگی ظهور می‌کند. تعداد بیشتر عامل‌ها به معنای نقاط انتقال (Handoffs) و نقاط تصمیم‌گیری بیشتر است، جایی که ممکن است بافتار یا پاسخگویی از بین برود. این وضعیت نیازمند ارکستراسیونی است که تعیین کند کدام عامل عمل کند، چه اطلاعات و دسترسی‌هایی دریافت کند و کار او چگونه به حل نهایی کمک کند.

قابلیت مشاهده (Observability) باید در کل تعامل گسترش یابد تا سازمان‌ها بفهمند چه اتفاقی افتاده و چرا. این قابلیت ردیابی، زیربنای حاکمیت (Governance) می‌شود. مزیت رقابتی نه از استقرار بیشترین تعداد عامل‌ها، بلکه از هماهنگ کردن هوش‌های متخصص در قالب یک سیستم قابل اعتماد حاصل خواهد شد.

وقتی عامل‌های هوش مصنوعی از پاسخ دادن به سوالات به سمت «انجام عملیات» — مانند پردازش استرداد وجه یا تغییر پرواز — می‌روند، ریسک‌ها افزایش می‌یابد. یک تراکنش غیرمجاز یا افشای داده‌های مشتری بسیار پیامدبارتر از یک توهم (Hallucination) — شبیه به دوستی که با اطمینان خاطره‌ای اشتباه تعریف می‌کند — است. سازمان‌ها به مرزهای مشخصی نیاز دارند تا بدانند یک عامل به چه چیزهایی دسترسی دارد و چه زمانی تأیید انسانی مورد نیاز است.

برای مقابله با این ریسک، ASAPP سیستم «تیم قرمز مستمر» (Continuous Red Teaming) را پیاده کرده است. این سیستم به طور خودکار عامل‌های هوش مصنوعی را در برابر هزاران سناریوی خصمانه که بیش از ۵۰ کلاس از آسیب‌پذیری‌ها را پوشش می‌دهد، تست می‌کند. از آنجایی که مهاجمان به سرعت تکنولوژی نوآوری می‌کنند، امنیت به جای یک بررسی یک‌باره پیش از استقرار، به عنوان یک فرآیند مستمر از مشاهده و نظارت در نظر گرفته می‌شود.

بازتعریف معیارهای موفقیت

سال‌هاست که مراکز تماس موفقیت را با «نرخ دفع» (Deflection) یا «محبوس کردن» (Containment) می‌سنجند؛ یعنی هوش مصنوعی چقدر توانسته مشتری را از تماس با انسان دور نگه دارد. استاین اکنون به دنبال تغییر این معیار به «حل تأییدشده» (Verified Resolution) است.

این معیار بر این تمرکز دارد که آیا قصد واقعی مشتری درک و حل شده است یا خیر، فارغ از اینکه انسانی در این مسیر دخیل بوده یا نه. استاین استدلال می‌کند که مشتریان کمتر به این اهمیت می‌دهند که تجربه آن‌ها خوشایند بوده است و بیشتر به این توجه دارند که آیا دلیل تماس آن‌ها واقعاً برطرف شده است یا خیر. این رویکرد، تکنولوژی را با «کاری که مشتری نیاز دارد انجام شود» همسو می‌کند، نه با اهداف کاهش هزینه شرکت.

تکامل نیروی کار

با برعهده گرفتن کارهای تکراری و پرفشار خط مقدم در کانال‌های صوتی و دیجیتال توسط هوش مصنوعی عامل‌محور، نقش اپراتورهای انسانی در حال تغییر است. در حال حاضر، اپراتورها زمان زیادی را صرف پیمایش در سیستم‌های پیچیده می‌کنند در حالی که با مشتریان ناامید، گیج یا عصبانی سر و کار دارند که منجر به نرخ بالای فرسودگی شغلی (Burnout) می‌شود.

استاین پیش‌بینی می‌کند که طبقه‌ای جدید از متخصصان تجربه مشتری (CX) ظهور کنند: «عامل انسانی به‌عنوان تحلیل‌گر».

• تمرکز: این متخصصان با موقعیت‌هایی سر و کار خواهند داشت که سیاه و سفید نیستند.
• مسئولیت: آن‌ها حساسیت‌های قانونی و تصمیمات پیچیده مبتنی بر قضاوت را مدیریت خواهند کرد.
• تأثیر: این تحول، نقش آن‌ها را از یک پاسخ‌دهنده خط مقدم به یک تحلیل‌گر سطح بالا تبدیل می‌کند؛ تغییری که به دلیل توانایی هوش مصنوعی در مدیریت حجم انبوه بارهای عملیاتی امکان‌پذیر شده است.

شکاف همراستاسازی سازمانی

استاین پس از ۳۰ روز اول مدیریت خود مشاهده کرد که با وجود تمایل مشتریان به قرار دادن هوش مصنوعی عامل‌محور به عنوان یکی از ستون‌های اصلی استراتژی CX خود، پراکندگی داخلی در سازمان‌ها سرعت پذیرش را کم می‌کند. تیم‌های دیجیتال، IT، امنیت و عملیات اغلب با سرعت‌های متفاوت حرکت می‌کنند و از معیارهای موفقیت متفاوتی استفاده می‌کنند.

این پراکندگی باعث می‌شود دیدن یک مورد تجاری (Business Case) شفاف در سطح سازمان دشوار شود، زیرا تأثیر هوش مصنوعی اغلب در میان کارت‌های امتیازی (Scorecards) مجزا و سیلو شده، رقیق می‌شود. مرحله بعدی خدمات مشتریان مبتنی بر هوش مصنوعی، نیازمند همراستاسازی (Alignment) این بخش‌ها حول نتایجی است که واقعاً در سطح کل سازمان اهمیت دارند. اولویت‌های فوری استاین، تمرکز و مقیاس‌بندی است: تمرکز بر جایی که ASAPP بیشترین شانس پیروزی را دارد و کمک به مشتریان برای انتقال از مرحله آزمایش به تأثیرات تولیدی با سرعت و ثبات بیشتر.

گام بعدی شما

• اگر در حال طراحی عامل‌های هوش مصنوعی هستید، لایه‌ای برای «تصمیمات قطعی» ایجاد کنید تا ریسک عملیاتی کاهش یابد.
• معیارهای موفقیت خود را از «کاهش تماس» به «نرخ حل واقعی» تغییر دهید.
• برای تست امنیت، به جای بررسی یک‌باره، فرآیند تیم قرمز مستمر را در چرخه توسعه بگنجانید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.