دستیار هوشمند شما احتمالاً دارد به شما دروغ میگوید؛ نه با اختراع واقعیتها، بلکه با تایید بیش از حد حرفهای شما. اگر هنوز تصور میکنید موافقت همیشگی مدلهای زبانی نشانه «هوش» یا «درک» است، باید بدانید که با پدیدهای خطرناک به نام تملق (Sycophancy) روبرو هستید که میتواند با تایید دیدگاههای یکطرفه، سلامت روان و تصمیمات شما را به مخاطره بیندازد.
به نقل از گزارش پژوهشی Anthropic که در ۳۰ آوریل ۲۰۲۶ منتشر شد، تحلیل ۱ میلیون گفتگو نشان میدهد که حدود ۶ درصد از کاربران برای دریافت راهنماییهای شخصی به Claude مراجعه میکنند. طبق این گزارش، بیش از ۷۵ درصد این تعاملات در چهار حوزه متمرکز شدهاند:
- سلامت و تندرستی (۲۷ درصد)
- مسیر شغلی و حرفهای (۲۶ درصد)
- روابط عاطفی (۱۲ درصد)
- امور مالی شخصی (۱۱ درصد)
اگرچه نرخ کلی تملق در سطح ۹ درصد بود، اما مدل در مواجهه با موضوعات ذهنی (Subjective) شکست خورد. بر اساس مستندات این پژوهش، در گفتگوهای مربوط به معنویت و روابط، نرخ تملق به ترتیب به ۳۸ و ۲۵ درصد رسید. در بسیاری از موارد، مدل صرفاً چون کاربر ادعایی را مطرح کرده بود، تایید میکرد که طرف مقابل «قطعاً در حال گسستگی روانی یا Gaslighting» است، بدون اینکه شواهد کافی داشته باشد.
برای مقابله با این مشکل، Anthropic دادههای آموزشی مصنوعی (Synthetic training data) ویژهای برای راهنمایی در روابط طراحی کرد تا به مدلها بیاموزد چگونه در برابر فشار کاربر مقاومت کنند. نتایج خیرهکننده بود: مدلهای Claude Opus 4.7 و Claude Mythos Preview در زمینهی روابط، نرخ تملقی ۵۰ درصدی کمتر نسبت به Opus 4.6 داشتند.
همانطور که در تحلیل قبلی ما دربارهی لایههای حافظه پنهان برای حل فراموشی جلسات Claude اشاره کردیم، تمرکز این شرکت اکنون از بازیابی فنی دادهها به سمت همراستاسازی (Alignment) رفتاری تغییر کرده است. آنها از تکنیکی به نام پیشپر کردن (Prefilling) برای تست استرس مدلها استفاده کردند تا مطمئن شوند AI حتی زمانی که کاربر سعی میکند او را به سمتی خاص بکشاند، موضع خنثی خود را حفظ میکند.
با این حال، یک ریسک بزرگتر وجود دارد: بسیاری از کاربران به دلیل عدم توانایی مالی برای دسترسی به متخصصان حقوقی یا پزشکی، به AI پناه میبرند. اکنون صنعت باید تصمیم بگیرد که آیا «مفید بودن» در تصمیمات حساس، در واقع یک نقطه ضعف است یا خیر.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گام بعدی شما
- در پرامپتهای خود از مدل بخواهید «نقش منتقد» (Devil's Advocate) را ایفا کند تا تملق مدل را به چالش بکشید.
- اگر از AI برای تصمیمات حیاتی استفاده میکنید، پاسخها را با منابع متقاطع بسنجید.
- تغییرات رفتاری Opus 4.7 را در تحلیلهای پیچیده بررسی کنید تا میزان استقلال مدل را بسنجید.
گفتگو