تصور کنید در محیط کاری خود به ابزاری تکیه کنید که با اطمینان کامل دروغ میگوید و شما هم بدون هیچ تردیدی آن را باور کنید. این دقیقاً همان تلهای است که بسیاری از متخصصان امروز در آن گرفتار شدهاند.
طبق گزارش منتشر شده در ۲۶ سپتامبر ۲۰۲۶، دسترسی به مدل زبانی بزرگ (LLM) — که شبیه کتابخانهداری است که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — باعث شده است تنها ۳٪ از کاربران در مواجهه با سوالات دشوار، جسارت بگویند «نمیدانم». این یافتهها که حاصل مجموعهای از پنج آزمایش است، نشان میدهد که صرفِ حضور یک دستیار هوشمند، مکانیسم توقف و تردید در ذهن انسان را بهطور موثری حذف میکند.
این پدیده در حالی رخ میدهد که خلاصههای تولید شده توسط هوش مصنوعی در حال تبدیل شدن به رابط پیشفرض موتورهای جستوجو و ابزارهای نویسندگی هستند. این تغییر در نحوه دسترسی به اطلاعات، با روندهایی همسو است که در آن میزان استفاده از موتورهای جستوجوی سنتی مانند گوگل در میان نسلهای جدید بهطور چشمگیری کاهش یافته است. برای یک متخصص، این یک پارادوکس خطرناک است: شما در مورد خروجی کارتان احساس اطمینان بیشتری میکنید، در حالی که در واقع مستعد خطای بیشتری شدهاید. در واقع، این یک تغییر شناختی است که در آن فقدان خویشتنداری در مدل — یعنی ناتوانی آن در توقف یا پذیرش جهل — توسط کاربر انسانی بازتولید میشود.
همانطور که در تحلیلهای قبلی ما دربارهی توهمات مدلهای زبانی اشاره کردیم، مشکل اصلی نه در تولید پاسخ غلط، بلکه در لحن متقاعدکنندهی این پاسخهاست.
جزئیات و متدولوژی پژوهش
پژوهشگران ۳۱۳۲ شرکتکننده را با سوالاتی درباره جزئیات بصری فیلمها (مانند رنگ لباسها در فیلم Bend It Like Beckham) مورد آزمایش قرار دادند. این سوالات بهطور خاص انتخاب شدند چون مدل Gemini 3.5 Flash در چنین جزئیاتی مستعد توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — است. دلیل انتخاب این موارد این بود که چنین جزئیات دقیقی بهندرت در متون آنلاین ظاهر میشوند و مدل نمیتواند آنها را از حافظه بازیابی کند.
بر اساس مستندات این پژوهش، مدلهایی مانند GPT-5.5، Claude 4.6 Sonnet و Gemini 3.5 Flash در سوالات ساده موفق بودند، اما در موارد دشوار شکست خوردند. از آنجا که توصیههای هوش مصنوعی عمدتاً غلط بود، نمیتوان این اثر را به دلیل «سپردن کار به ابزاری قابل اعتماد» توجیه کرد؛ زیرا کاربر در واقع دارد به یک منبع غیرقابل اعتماد اعتماد میکند.
بهای اعتماد کاذب
دادههای دو مطالعه نخست (1a و 1b) فروپاشی شدید تواضع فکری را نشان داد:
- گروه کنترل (بدون AI): شرکتکنندگان در ۳۶٪ تا ۴۴٪ موارد از قضاوت خودداری کردند و پذیرفتند که پاسخ را نمیدانند.
- گروه دارای AI: نرخ عدم قضاوت به ۳٪ تا ۶٪ سقوط کرد.
- تغییر اعتمادبهنفس: در شرایطی که هیچ انگیزه مالی برای پاسخ درست وجود نداشت، امتیاز اعتماد کاربران از ۲۹.۶ به ۷۵.۹ (در مقیاس ۱۰۰) رسید؛ یعنی حدود ۲.۵ برابر افزایش در احساس اطمینان.
- سقوط دقت: سهم پاسخهای درست از ۲۷.۶٪ به ۱۰.۰٪ کاهش یافت.
در مجموع تمام مطالعات، کاربرانی که بدون انگیزه مالی به AI دسترسی داشتند، تنها ۹.۲٪ سوالات را درست پاسخ دادند، در حالی که این رقم برای گروه بدون AI برابر با ۲۷.۵٪ بود. آنها با کمک AI به سوالات بیشتری پاسخ دادند، اما تنها در یکسوم موارد درست بودند. این یعنی هوش مصنوعی نهتنها کمکی نکرد، بلکه شهودهای درست انسانی را به خطا تبدیل کرد.
نقش انگیزههای مالی
در مطالعات ۲ تا ۴، پاداش و جریمه مالی تعریف شد: شرکتکنندگان برای هر پاسخ درست ۱۰ سنت میگرفتند، برای هر پاسخ غلط ۱۰ سنت میباختند و برای پاسخ «نمیدانم» هیچ پاداش یا جریمهای دریافت نمیکردند. پژوهشگران پیش از شروع، این فرضیه را ثبت کردند که انگیزههای مالی تمایل به خودداری از پاسخ را افزایش میدهد، اما دسترسی به AI این اثر را تضعیف میکند.
- نتایج تعاملی: هیچکدام از سه مطالعه اثر متقابل آماری معنیداری نشان ندادند؛ یعنی دسترسی به AI و انگیزههای مالی بهطور مستقل عمل میکردند و یکی اثر دیگری را بهطور مستقیم خنثی نکرد.
- تغییر رفتار: انگیزههای مالی باعث شد کاربران کمتر از AI کمک بگیرند (در مطالعه ۳، میانگین درخواستها از ۵.۲۷ به ۴.۵۳ از ۶ مورد ممکن کاهش یافت) و در صورت استفاده، پاسخهای درستتری بدهند.
- تاثیر محدود: نرخ عدم قضاوت با وجود جریمه مالی کمی بالا رفت، اما همچنان بسیار پایینتر از گروه کنترل (بدون AI) باقی ماند.
در مطالعه ۴، پاسخهای AI بهصورت خودکار نمایش داده شدند تا مشابه موتورهای جستوجوی مدرن و دستیارهای نویسندگی باشند. نتیجه تقریباً یکسان بود: بدون انگیزه مالی، نرخ عدم قضاوت از ۳۵٪ به ۱٪ رسید و با انگیزه مالی، از حدود ۳۹٪ به ۷٪ سقوط کرد.
اثر «اپیستیمیا» و زوال شناختی
این رفتار با تحقیقات سنتی «استفاده از توصیه» در تضاد است؛ در حالت عادی، انسانها توصیههای خارجی را کمتر وزندهی میکنند و معمولاً تنها یکسوم مسیر را به سمت نظر مشاور حرکت میکنند. اما در اینجا، کاربران بهطور کامل تسلیم لحن مطمئن AI شدهاند؛ روندی که نویسندگان آن را «اپیستیمیا» (Epistemia) مینامند.
این تمایل به پذیرش پاسخها بهجای بررسی آنها، نشاندهنده فرسایش تفکر انتقادی است. مطالعهای جداگانه از مدرسه بازرگانی سوئیس با ۶۶۶ شرکتکننده، همبستگی منفی شدیدی بین اعتماد به AI و مهارتهای تفکر انتقادی یافت. هرچه اعتماد به AI بیشتر شود، افراد تکالیف شناختی بیشتری را تفویض میکنند و این چرخه باعث تضعیف بیشتر تفکر انتقادی میشود.
شواهد تجربی نشان میدهد حتی ۱۰ تا ۱۵ دقیقه کار با یک دستیار هوشمند میتواند توانایی حل مسئله و پشتکار در کارهای بعدی (بدون AI) را بهطور قابل اندازهگیری کاهش دهد. با این حال، کسانی که AI را نادیده گرفتند یا فقط برای دریافت توضیحات از آن استفاده کردند، دچار این افت نشدند. پژوهشهای مایکروسافت نیز به همین نتیجه رسیدند.
علاوه بر این، تحقیقات مایکروسافت نشان میدهد که استفاده از AI فشار شدیدی بر متاشناخت (Metacognition) — یعنی توانایی نظارت و هدایت تفکر خود — وارد میکند. در این میان، سطح تحصیلات بالاتر به عنوان یک عامل محافظتی در برابر این اثرات عمل میکند.
برای یک مدیر یا متخصص، ریسک دیگر فقط «توهم» در نرمافزار نیست، بلکه توهم در اعتمادبهنفس خودِ انسان است. توانایی تشخیص مرزهای دانش شخصی، در حال تبدیل شدن به یک مزیت رقابتی کمیاب است. برای مقابله با این چالش، ضروری است که به جای نگاه به هوش مصنوعی به عنوان یک منبع پاسخ نهایی، آن را به عنوان مجموعهای از ابزارها برای حل مسائل عملی در نظر بگیریم.
گام بعدی شما
- بررسی کنید که آیا تکیه شما به AI باعث کاهش پشتکار شما در حل مسائل دشوار شده است یا خیر.
- برای جلوگیری از زوال شناختی، از AI بهجای دریافت پاسخ نهایی، برای دریافت «راهنمای گامبهگام» یا «توضیح مفاهیم» استفاده کنید.
- ابزارهای جدید آموزش متاشناختی را که برای مقابله با تفویض شناختی طراحی میشوند، دنبال کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو