اگر روز شما با اصلاح مداوم دستورات برای ChatGPT می‌گذرد، احتمالاً در حال بازجویی از بازتابی از خودتان هستید. شما با یک ابزار ساده طرف نیستید، بلکه با آینه‌ای روبه‌رو هستید که نحوه فکر کردن شما را به شما برمی‌گرداند.
بر اساس تحلیل منتشرشده در ۱۸ ژوئن ۲۰۲۶ در وب‌سایت dev.to، تلاقی مهندسی پرامپت (Prompt Engineering) — که در واقع هنر سؤال درست پرسیدن است، شبیه کسی که می‌داند چطور از یک مشاور باتجربه بهترین جواب را بگیرد — و خروجی هوش مصنوعی، یک حلقه بازخورد ایجاد می‌کند. در این وضعیت، کاربر به‌جای هدایت یک هوش خارجی، در حال صیقل دادن الگوهای تفکر خودش است.
این اثر آینه‌ای به این دلیل رخ می‌دهد که مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — بر اساس تمام ردپاهای دیجیتالی ما، از شکایات نیمه‌شب تا بیانیه‌های رسمی، آموزش دیده است. طبق این گزارش، مدل‌های زبانی شبیه آینه‌ای هستند که نه‌تنها چهره شما را نشان می‌دهند، بلکه با میانگین تمام صداهای انسانی که شنیده‌اند، با شما حرف می‌زنند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی سوگیری‌های مدل‌های زبانی اشاره کردیم، خطر اصلی اینجا نیست که هوش مصنوعی دروغ بگوید، بلکه این است که «تأیید» کند. به نقل از مقاله dev.to، چون مدل صدایی را بازمی‌گرداند که کاربر احتمالاً خودش هم به کار می‌برد، یک حلقه «سوگیری تأییدی» شکل می‌گیرد. ما تصور می‌کنیم با یک «دیگری» حرف می‌زنیم، اما در واقع در یک اتاق پژواک زبانی هستیم.
برای کاربر معمولی، این یعنی از دست دادن «عضلات شناختی». وقتی تلاش برای فرموله کردن ایده‌ها یا پیش‌نویس‌های انتقادی را به یک آینه می‌سپاریم، توانایی تفکر مستقل از میانگین جمعی را از دست می‌دهیم. نتیجه این فرآیند، تحلیل زوال تدریجی تفکر اصیل به نفع یک اجماع الگوریتمیک و صیقل‌خورده است.
گام بعدی شما
- پرامپت‌هایی بنویسید که صراحتاً پیش‌فرض‌های شما را به چالش بکشند.
- مدل را مجبور کنید از حالت «موافق» خارج شود تا مرز بین آینه و کاربرد واقعی مشخص شود.
- تمرین کنید تا بخش‌های سختِ پیش‌نویس ایده‌ها را قبل از ورود به مدل، به‌صورت دستی بنویسید.
اما این وابستگی ذهنی تنها بخشی از ماجراست؛ تأثیر این الگوها بر امنیت داده‌های حساس را در گزارش بعدی بررسی خواهیم کرد.
گفتگو