«مشتری همیشه راست می‌گوید»؛ ریسک جدید توهمات هوش مصنوعی در خدمات

تصور کنید پیش‌خدمتی در نیویورک با مشتری‌ای روبه‌روست که با تکیه بر ChatGPT اصرار دارد غذایی فاقد مواد حساسیت‌زا است، در حالی که منوی رستوران صراحتاً هشدار داده که این غذا حاوی سخت‌پوستان است. این تقابل میان تخصص انسانی و توهم (Hallucination) — شبیه دوستی که خاطره‌ای را اشتباه و با اطمینان تعریف می‌کند — اکنون به یک سردرد سیستماتیک برای کارکنان خط مقدم تبدیل شده است. متیسون، پیش‌خدمتی در نیویورک، تنش‌های ناشی از این وضعیت را توصیف می‌کند؛ او می‌گوید وقتی از مشتریان درباره حساسیت‌های غذایی می‌پرسد، با مقاومت روبه‌رو می‌شود. او توضیح می‌دهد: «شما به سخت‌پوستان حساسیت دارید و ChatGPT می‌گوید در این غذا سخت‌پوست وجود ندارد، اما ما به شما می‌گوییم که بله، وجود دارد!» در برخی موارد، مشتریان غذاهای ماهی را سفارش می‌دهند که دارای آب‌گوشت تهیه شده از سخت‌پوستان است، صرفاً چون به چت‌بات بیشتر از کارکنان رستوران اعتماد می‌کنند.

به گزارش وب‌سایت The Verge در ۲ اکتبر ۲۰۲۶، پذیرش گسترده هوش مصنوعی زاینده (Generative AI) در حال تغییر بنیادین پویایی قدرت در خدمات مشتریان است. این فناوری که مانند کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد، باعث شده بسیاری از کاربران آن را به جای یک ابزار، به عنوان یک مرجع خطاناپذیر ببینند. تصور کنید متخصصی باشید که سال‌ها تجربه دارد، اما به شما گفته شود که دانش شما در برابر حدس و گمان یک چت‌بات پایین‌تر است. این موضوع تنها درباره لجبازی نیست؛ بلکه درباره یک اتکای روان‌شناختی رو به رشد به هوش مصنوعی به عنوان یک مرجع معصوم و خطاناپذیر است. این تمایل به اعتماد کورکورانه، یادآور برخی پژوهش‌هاست که نشان می‌دهد مدیران هنگام همکاری با AI، خطاهای مدل را بیشتر نادیده می‌گیرند. برای بسیاری، AI مانند سپری در برابر اضطراب تعامل با متخصصان (مثل سوملیه‌ها یا محیط‌بانان) عمل می‌کند؛ کسانی که ممکن است از نظر مشتری، بیش از حد سخت‌گیر، ترسناک یا غیرقابل‌اعتماد باشند.

هزینه‌ی انسانی توهمات

بر اساس بررسی گزارش‌های مختلف، این مشکل در چندین بخش به شکل متفاوتی ظاهر شده است و هزینه‌های انسانی قابل‌توجهی دارد:

• صنعت هتلداری و رستوران: در رستوران‌های ایتالیایی با توصیه میشلن، پیش‌خدمت‌ها گزارش می‌دهند که مشتریان به‌جای مشورت با سوملیه (متخصص شراب)، از ChatGPT استفاده می‌کنند. متیسون اشاره می‌کند که مهمانان اغلب کمک سوملیه را رد می‌کنند و می‌گویند: «نه، من فقط از ChatGPT می‌پرسم.» این منجر به درخواست بطری‌هایی از شراب می‌شود که یا در رستوران موجود نیست یا اصلاً وجود خارجی ندارد. کارکنان برای جلوگیری از درگیری و برای اینکه «ضربه را تلطیف کنند»، به‌جای گفتن اینکه «هوش مصنوعی دروغ گفته یا توهم زده است»، ادعا می‌کنند که رستوران دارای یک «لیست شراب بسیار خاص و محدود» است تا مشتری احساس نکردن نکند که AI چیزی را اختراع کرده است.
• مناطق حفاظت‌شده: جیسون، محیط‌بان رودخانه‌ای در غرب کوهستان، از بازدیدکنندگانی می‌گوید که با برنامه‌های سفر تولیدشده توسط AI می‌آیند که از نظر جغرافیایی غیرممکن است. این توهمات شامل campsites (کمپ‌های شب‌مانی) است که اصلاً وجود ندارند یا مسیرهایی که گروه‌ها را مجبور می‌کند قایق‌های خود را در خلاف جهت جریان رودخانه پارو بزنند. حتی زمانی که جیسون به یک نقشه فیزیکی اشاره می‌کند، برخی گروه‌ها همچنان تردید دارند و به AI بیش از محیط‌بانان و کتاب‌های راهنمای چاپی اعتماد می‌کنند.
• مراقبت از کودکان: کیسی، معلمی در نیویورک، اشاره می‌کند که والدین از Claude یا ChatGPT برای تنظیم روتین‌های زمان خواب و برنامه‌های استراحت فرزندانشان استفاده می‌کنند. در یک مورد، کیسی بر اساس رفتار کودک تخمین زد که او در شب به دو تا سه ساعت خواب بیشتر نیاز دارد، اما والدین اصرار داشتند که ChatGPT به آن‌ها گفته است برنامه فعلی کاملاً درست است. برخی از والدین اکنون به AI به چشم متخصصی می‌نگرند که دانشش از متخصصان مراقبت از کودک فراتر رفته است.
• خرده‌فروشی و سرگرمی: کارکنان اپل استور، سینماها و کافی‌شاپ‌ها گزارش داده‌اند که مشتریان محصولات یا قابلیت‌هایی را طلب می‌کنند که اصلاً وجود ندارند. در پلتفرم‌هایی مانند Reddit و X، کارکنان خدمات مشتریان به‌طور فزاینده‌ای از مشتریانی شکایت می‌کنند که کلام ChatGPT را مانند وحی منزل می‌پذیرند.

روان‌شناسی کاربر: چرا AI بر متخصص پیروز می‌شود؟

به باور تحلیلگران، این اتکا به AI ریشه در بی‌اعتمادی به تخصص حرفه‌ای دارد. متیسون مشاهده کرده است که برخی از مشتریان، سوملیه‌ها را شبیه به «فروشندگان ماشین‌های دست‌دوم» می‌بینند که فقط سعی دارند بطری‌های گران‌قیمت را به آن‌ها بفروشند. برخی دیگر می‌ترسند که متخصص فکر کند آن‌ها «احمق» هستند. AI در اینجا یک فضای امن کاذب ایجاد می‌کند که در آن کاربر احساس می‌کند بدون ترس از قضاوت، اطلاعات می‌گیرد، هرچند این سیستم اغلب ظرافت‌های انسانی را با خطاهای فکتیک جایگزین می‌کند.

برخی از کاربردهای دیگر ساده‌تر هستند، مانند کودکانی که برگه‌های رنگ‌آمیزی تولید شده توسط AI را به برنامه‌های بعد از مدرسه می‌آورند. با این حال، روند تبدیل AI به یک موجودیت بیرونی «بسیار ارزشمند»، ارتباط متخصصان با والدین یا مشتریانی را که پیش از این بر اساس یک Prompt (دستور) تصمیم خود را گرفته‌اند، دشوارتر می‌کند.

اصطکاک عامل‌محور: لایه‌ی جدید سردرگمی

فراتر از رابط‌های ساده‌ی چت، ظهور عامل‌های هوش مصنوعی (Agentic AI) — سیستم‌هایی که می‌توانند به‌جای کاربر اقدام کنند — لایه‌ی جدیدی از سردرگمی را اضافه کرده است. لورن ویلفورد، مدیر رستورانی در پروویدنس، رود آیلند، با ۱۵ سال تجربه در خدمات غذایی، تغییر در نحوه تعامل مهمانان با کسب‌وکارش را توصیف می‌کند. این روند با آپلود عکس منوها توسط مشتریان برای دریافت راهنمایی در مورد جفت کردن غذا و نوشیدنی شروع شد، اما اکنون به «AI عامل‌محور» تبدیل شده است که به‌جای کاربر، رزرو می‌کند. این تغییر در نحوه تعامل، می‌تواند منجر به آن شود که وب‌سایت‌های کسب‌وکارهای محلی در برابر این عامل‌های نامرئی عملاً بی‌اثر شوند.

ویلفورد از مورد خاصی می‌گوید که در آن یک مشتری که معمولاً دخالت کمی در جزئیات داشت، ناگهان در شب قبل از یک رویداد بزرگ، بسیار پرتوقع شد. این مشتری درخواست‌های لحظه آخری برای تجهیزات صوتی و تصویری (AV) و تریبون داشت — که هیچ‌کدام موجود نبودند — و خواستار تغییرات پذیرایی در آخرین لحظات شد. اما وقتی مشتریان روز بعد رسیدند، هیچ اشاره‌ای به این درخواست‌ها نکردند. ویلفورد مشکوک است که این درخواست‌ها توسط یک عامل AI بوده که به‌طور خودکار و بدون نظارت انسانی عمل کرده است.

با معرفی Muse (عامل جدید متا)، انتظار می‌رود این روند شتاب بگیرد. مشکل اکنون از «تفسیر غلط یک چت توسط کاربر» به «سیستم‌های خودکاری تبدیل شده که درخواست‌های بی‌معنی ارسال می‌کنند». ویلفورد هشدار می‌دهد که ما متوجه نیستیم وقتی ارزشِ تعامل دو انسان برای حل یک مسئله را حذف می‌کنیم، چه چیزی را از دست می‌دهیم.

تحلیل: فرسایش اعتماد انسانی

این تغییر، گذاری خطرناک از AI به‌عنوان «ابزار» به AI به‌عنوان «جایگزین حقیقت» است. وقتی مشتری توهم مدل را بر نقشه‌ی فیزیکی یا هشدار پزشکی ترجیح می‌دهد، شعار «مشتری همیشه راست می‌گوید» به یک نقطه ضعف و مسئولیت خطرناک تبدیل می‌شود. اثر ثانویه این اتفاق، تخریب عزت‌نفس و کرامت حرفه‌ای است؛ متخصصان دیگر مشاور نیستند، بلکه مجبورند خطاهای AI را «تلطیف» کنند تا از درگیری با مشتریانی که احساس قدرت می‌کنند، جلوگیری کنند.

برای کاربر عادی، این یعنی راحتیِ AI در حال ساخت یک «حباب دانشی» است. با حذف واسطه‌ی انسانی، کاربر ظرافت‌ها و چک‌های ایمنی را که فقط یک متخصص می‌تواند ارائه دهد، از دست می‌دهد. ما شاهد تولد نوع جدیدی از «حق‌به‌جانبی» هستیم که در آن کاربر توسط یک مرجع دیجیتال قدرت گرفته است، مرجعی که در واقع هیچ درکی از دنیای فیزیکی و محدودیت‌های آن ندارد.

برای عبور از این وضعیت، کاربران باید با AI به‌عنوان یک شریک برای ایده‌پردازی (Brainstorming) برخورد کنند، نه یک پایگاه داده‌ی حقایق. توسعه‌ی حیاتی بعدی که باید زیر نظر داشت، نحوه پیاده‌سازی سیستم‌های «تأیید انسانی در چرخه» (Human-in-the-loop) توسط کسب‌وکارهاست تا کارکنان خود را در برابر تهاجمات مشتریانی که توسط AI هدایت شده‌اند، محافظت کنند.

گام بعدی شما

• با AI به‌عنوان یک «هم‌فکری برای ایده‌پردازی» برخورد کنید، نه یک «پایگاه داده برای حقایق».
• در تعاملات حرفه‌ای، همواره منبع فیزیکی یا تخصص انسانی را به‌عنوان لایه‌ی تأیید نهایی (Verification) قرار دهید.
• اگر صاحب کسب‌وکار هستید، پروتکل‌های «تأیید انسانی» را برای کارکنان تعریف کنید تا در برابر تهاجمات ناشی از توهمات AI حمایت شوند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.