مطالعهٔ MIT: اتکای به چت‌بات‌ها دقت تشخیص اخبار جعلی را ۱۵٪ کاهش داد

تصور کنید ابزاری که برای نجات شما از سیل اخبار جعلی ساخته شده، به‌مرور زمان شما را در برابر دروغ‌ها بی‌دفاع کند. این دقیقاً همان اتفاقی است که برای کاربرانی می‌افتد که برای تشخیص حقیقت، تنها به هوش مصنوعی تکیه می‌کنند.

طبق گزارش آزمایشگاه رسانه MIT (MIT Media Lab)، استفاده از چت‌بات‌ها برای تأیید اخبار، توانایی ذاتی انسان در شناسایی تیترهای جعلی را تضعیف می‌کند. این وضعیت شبیه به اثر GPS است که با جایگزینی نقشه‌خوانی، مهارت‌های ناوبری طبیعی مغز را از بین می‌برد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی توهمات مدل‌های زبانی اشاره کردیم، اعتماد کورکورانه به خروجی مدل‌ها می‌تواند منجر به پذیرش حقایق ساختگی شود.

این «پارادوکس وابستگی به AI» در حالی رخ می‌دهد که مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — به منبع اصلی تجمیع اخبار برای میلیون‌ها متخصص تبدیل شده‌اند. این روند با گسترش محتوای تولید شده توسط ماشین همسو است؛ چنان‌که مطالعه‌ای از Pew Research نشان می‌دهد بخش قابل توجهی از صفحات وب جدید اکنون توسط هوش مصنوعی نوشته می‌شوند. بر اساس مستندات این مطالعه که در ۲۵ اوت ۲۰۲۶ منتشر شد، راحتیِ دریافت پاسخ‌های فوری، جایگزین تلاش ذهنی لازم برای تشخیص انتقادی شده است.

آنکو رانی (Anku Rani) و والدمار دانری (Valdemar Danry)، نویسندگان اصلی این پژوهش، شرکت‌کنندگان را در ارزیابی تیترها و تصاویر خبری طی چهار هفته رصد کردند. داده‌ها مسیر تکان‌دهنده‌ای را نشان می‌دهند:

• فاز اولیه: دقت شرکت‌کنندگان در شناسایی اخبار جعلی با کمک چت‌بات ۲۱٪ افزایش یافت.
• هفته چهارم: کاربرانی که بدون AI تست شدند، ۱۵٪ ضعیف‌تر از ابتدای مطالعه در تشخیص اخبار جعلی عمل کردند.
• شکاف ادراکی: حدود ۲۵٪ از کاربران به‌طور اشتباه تصور می‌کردند مهارت‌های مستقل آن‌ها افزایش یافته است، در حالی که در واقعیت دچار افت شده بودند.

به نقل از پژوهشگران، این اتفاق به این دلیل رخ می‌دهد که اکثر مدل‌های زبانی، مدل‌های آماری برای پیش‌بینی توکن (Token) — تکه‌های کوچکی از متن، مثل برش‌های یک کیک طولانی که مدل تکه‌تکه می‌خورد — هستند، نه موتورهای استدلالی. این محدودیت‌های ساختاری باعث می‌شود که دقت ابزارهای تشخیص AI در برابر پیچیدگی‌های زبانی همواره با چالش‌های جدی روبرو باشد. وقتی AI صرفاً جواب را «می‌گوید»، کاربر به حالتی منفعل می‌رود که عادت‌های راستی‌آزمایی او را تحلیل می‌برد.

با این حال، راهکاری برای این مشکل وجود دارد. چت‌بات‌هایی که از «پرسشگری سقراطی» استفاده می‌کنند و به‌جای دادن جواب مستقیم، کاربر را به یافتن شواهد تشویق می‌کنند، توانستند عملکرد مستقل کاربران را حفظ کنند یا حتی بهبود ببخشند؛ هرچند این روش زمان و تلاش بیشتری می‌طلبد.

گام بعدی شما

• از هوش مصنوعی به‌جای «oracle» یا پیشگو، به‌عنوان یک «معلم» استفاده کنید.
• در پرامپت‌های خود از مدل بخواهید به‌جای تأیید حرف شما، فرضیاتتان را به چالش بکشد.
• هر هفته یک روز را به «راستی‌آزمایی دستی» اختصاص دهید تا عضلات تفکر انتقادی‌تان تحلیل نرود.

اما تأثیر این وابستگی بر تصمیم‌گیری‌های مدیریتی در سازمان‌ها حتی پیچیده‌تر است — به تحلیل ما درباره‌ی اتوماسیون تصمیمات در کسب‌وکارها مراجعه کنید.