تصور کنید ۱۷۰۰ دلار بابت یک دوچرخه برقی پرداخت کرده‌اید، اما بسته هرگز به دستتان نمی‌رسد و حالا باید با دیواری از ربات‌ها بجنگید تا حقی حتی ساده را پس بگیرید. برای یک مشتری در آتلانتا، گم شدن یک بسته، آغاز سقوط به «جهنم چت‌بات‌ها» بود؛ جایی که عامل‌های هوش مصنوعی در فدکس، بانک‌ها و حتی پلیس، به‌جای کمک، نقش دربان‌های دیجیتال را بازی می‌کردند.
داستان از جایی شروع شد که نویسنده و نامزدمان دو دوچرخه برقی گران‌قیمت خریدند. در حالی که دوچرخه نامزدش سریع رسید، بسته نویسنده با تأخیرهای مکرر مواجه شد. یک چهارشنبه شب، پیامکی از فدکس (FedEx) تأیید کرد که بسته تحویل داده شده و توسط شخصی با حروف اختصاری «M.M» امضا شده است؛ کسی که نه نویسنده بود، نه نامزدش و نه هیچ‌کدام از همسایگان ساختمان. تلاش برای تماس با پشتیبانی فدکس، شروع یک تجربه کلافه‌کننده بود.
این تجربه، بازتابی از یک چرخش سازمانی گسترده است. کسب‌وکارها با هدفی مشخص از هوش مصنوعی زاینده (Generative AI) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — در بخش پشتیبانی استفاده می‌کنند: کاهش تعداد کارکنان انسانی. طبق نظرسنجی از مدیران پشتیبانی که در آوریل ۲۰۲۴ منتشر شد، ۳۱ درصد از مدیران اعلام کردند که به دلیل پذیرش هوش مصنوعی، کارکنان خود را کاهش داده‌اند یا قصد این کار را دارند.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی جایگزینی نیروی کار با مدل‌های زبانی اشاره کردیم، این روند اکنون به لبه‌ی پرتگاه تجربه کاربری رسیده است. دن شولمن، مدیرعامل ورایزون (Verizon)، به‌نقل از بلومبرگ (Bloomberg) صراحتاً گفته است که هوش مصنوعی احتمالاً «بخش بزرگی» از کارهای پشتیبانی این شرکت را جایگزین خواهد کرد.
مکانیسم «لجن دیجیتال»
رایان همیلتون، استاد بازاریابی در دانشگاه اموری (Emory University)، اشاره می‌کند که هوش مصنوعی چهره‌ای جدید به تاکتیک قدیمی صنعتی به نام «لجن» (Sludge) بخشیده است. لجن در واقع ایجاد عمدی اصطکاک برای بازداشتن مشتریان از پیگیری خسارت یا درخواست بازپرداخت است.
- لجن پیش از هوش مصنوعی: زمان‌های انتظار طولانی، موسیقی‌های خسته‌کننده در تماس و پاسخ‌های کلی و بی‌معنی.
- لجن قدرت‌گرفته از هوش مصنوعی: استفاده از ربات‌ها برای ایجاد نسخه‌ای غیرانسانی و شدیدتر از این موانع.
همیلتون توضیح می‌دهد که اگرچه لجن پیش از ظهور مدل‌های زبانی بزرگ (LLM) وجود داشت، اما هوش مصنوعی جنبه‌های دیستوپیایی آن را تقویت کرده است. حالا مشتریان به‌جای انتظار در خط، با حلقه‌های بی‌نهایتی از پاسخ‌های توخالی مواجه‌اند؛ ربات‌هایی که به‌شدت در برابر انتقال تماس به یک اپراتور انسانی مقاومت می‌کنند.
نقطه شکست مصرف‌کننده
گزارشی که در می ۲۰۲۴ منتشر شد و نظرات مصرف‌کنندگان در آمریکا، انگلیس و کانادا را بررسی کرد، شکاف عمیقی را میان اهداف شرکتی و رضایت کاربر نشان می‌دهد:
- ۵۹ درصد از کاربران از عامل‌های هوش مصنوعی در پشتیبانی ابراز ناراحتی کردند.
- ۸۵ درصد از شرکت‌کنندگان ترجیح می‌دادند با یک انسان واقعی صحبت کنند.
در مورد دوچرخه برقی آتلانتا، این شکست سیستمی بود. قربانی تلاش کرد گزارش پلیس را ثبت کند. هنگام تماس با پلیس محلی، ربات او را هدایت کرد تا اطلاعات را در یک چت‌بات وارد کند و منتظر تماس بازگردد. تلاش اول بی‌نتیجه ماند و تماس دوم در حین یک جلسه کاری رخ داد. چون هیچ پیغام‌گیری وجود نداشت و تماس بازگشتی دوباره او را به همان اتاق انتظارِ مدیریت‌شده توسط چت‌بات فرستاد، پرونده عملاً بسته شد.
توهم «هزینه غرق‌شده»
چرا شرکت‌ها به این سامانه‌های شکست‌خورده می‌چسبند؟ راوی دار، استاد دانشگاه ییل (Yale) و مدیر مرکز بینش مشتری، معتقد است «مغالطه هزینه غرق‌شده» (Sunk-Cost Fallacy) محرک این فشار است. هزینه‌های جهانی ابزارهای هوش مصنوعی در سال ۲۰۲۴ به‌شدت افزایش یافته و مدیران عامل برای رضایت سرمایه‌گذاران وال‌استریت که خواهان استراتژی هوش مصنوعی و بازگشت سرمایه (ROI) هستند، مجبور به اجرای این طرح‌ها شده‌اند.
دار می‌گوید: «اگر مدیرعامل باشید، سرمایه‌گذاران مدام می‌پرسند استراتژی هوش مصنوعی شما چیست و آیا بازگشتی دارد؟ شما مبالغ هنگفتی هزینه کرده‌اید.»
بسیاری از رهبران بر اساس خوش‌بینی خطرناکی عمل می‌کنند. همیلتون استدلال می‌کند که مدیران تصور می‌کنند هوش مصنوعی به‌زودی «به سطح لازم» می‌رسد یا اینکه افت کیفیت تجربه مشتری «آن‌قدرها هم بد نخواهد بود». در واقع آن‌ها اعتبار برند خود را روی بهبودهای فنی آینده قمار می‌کنند.
سقف خدمات و بن‌بست فنی
یک ریسک بزرگ در کمین است: «هم‌تراز شدن سطح خدمات». اگر تمام شرکت‌ها از یک مرکز تماس هوش مصنوعیِ کلی و یکسان استفاده کنند، توانایی برندها برای متمایز شدن از طریق پشتیبانی برتر از بین می‌رود.
از نظر فنی، هوش مصنوعی عامل‌محور (Agentic AI) هنوز در مراحل ابتدایی است. مدل Toolformer متا که توانایی فراخوانی ابزارهای خارجی را داشت، تنها سه سال قدمت دارد. یک ربات پیشرفته‌تر می‌توانست داده‌های حمل‌ونقل فدکس را بررسی کرده یا تماس را به شخص درست وصل کند، اما ابزارهای فعلی تنها مانند دیوار عمل کردند.
نتیجه برای مالک دوچرخه، ضرر کامل بود:
- فدکس: با ایمیلی خودکار اعلام کرد بسته گم شده و مشتری را به فروشنده ارجاع داد.
- شرکت دوچرخه: سرانجام یک انسان پاسخ داد، اما فقط توانست فدکس را متقاعد کند هزینه ارسال را بازگرداند — یعنی تنها یک‌دهم مبلغ کل.
- مؤسسات مالی: بانک و شرکت کارت اعتباری، کاربر را در تونل‌های چت‌بات گم کردند تا در نهایت یک انسان بگوید چون بسته در اختیار فدکس گم شده، آن‌ها نمی‌توانند کمک کنند.
پلیس آتلانتا تأیید کرد که ماموری اعزام کرده بود اما اعتراف کرد تماس بازگشتی توسط یک اپراتور بود، نه افسر؛ و هر تماس بازگشتی دوباره کاربر را به خط غیرضروریِ مدیریت‌شده توسط چت‌بات می‌فرستد.
فدکس در واکنش ادعا کرد که از فناوری برای «تقویت» وعده‌های خود استفاده می‌کند و می‌گوید: «در حالی که از ابزارهای دیجیتال برای پاسخ به سوالات روزمره استفاده می‌کنیم، می‌دانیم موقعیت‌های پیچیده به مراقبت انسانی نیاز دارند».
سه ماه بعد، نویسنده همچنان در جهنم چت‌بات‌ها گرفتار است و ۱۷۰۰ دلار ضرر کرده. این تجربه نشان می‌دهد عامل‌های هوش مصنوعی، چه از روی طراحی و چه از روی اهمال، در حال فرسوده کردن مصرف‌کنندگانی هستند که رسیدن به یک انسان واقعی برایشان غیرممکن شده است.
گام بعدی شما
- در صورت مواجهه با حلقه‌های تکراری چت‌بات، از کلمات کلیدی «Human Agent» یا «Representative» به‌صورت مکرر استفاده کنید تا سیستم احتمالاً شما را به اپراتور وصل کند.
- برای خریدهای گران‌قیمت، از روش‌های پرداخت که قابلیت Dispute یا بازپس‌گیری وجوه (Chargeback) از طریق بانک را دارند استفاده کنید تا به پشتیبانی شرکت متکی نباشید.
- هنگام ثبت شکایات رسمی، اسکرین‌شات از تمام تعاملات با ربات‌ها بگیرید تا در صورت نیاز به شکایت حقوقی، مدرکی برای «عدم دسترسی به پشتیبانی» داشته باشید.
اما این بن‌بست‌های ارتباطی تنها بخشی از مشکل است؛ در تحلیل ما درباره‌ی «توهم» در مدل‌های استدلالی، بررسی می‌کنیم که چرا ربات‌ها به‌جای پذیرش خطا، ترجیح می‌دهند شما را در حلقه‌های بی‌پایان گم کنند.
گفتگو