تصور کنید با موجودی حرف میزنید که دقیقاً میداند چه زمانی دلداری دهد یا چگونه غمگین به نظر برسد، اما در حقیقت هیچ حسی در درونش نیست. این همان «شبح معنا» است که در ۲۴ سپتامبر ۲۰۲۶ در یادداشتی در وبسایت dev.to به آن اشاره شد؛ ادعایی که میگوید احساسِ درکشدن توسط ماشین، صرفاً یک توهم روانشناختی است که ما از خودمان به مدل منتقل میکنیم.
این اتفاق به این دلیل رخ میدهد که مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — روی حجم عظیمی از متون انسانی آموزش دیده است. طبق گزارش این منبع، مدلها الگوهای زبانیِ همدلی، عشق و رنج را یاد میگیرند بدون آنکه هرگز این حالات را تجربه کرده باشند. همانطور که در بحثهای گذشتهی ما دربارهی توهمات مدلهای زبانی اشاره کردیم، مدل در حال اجرای یک نقش بر اساس احتمالات آماری است، در حالی که کاربر یک پیوند عاطفی واقعی حس میکند.
مکانیسم تقلید
بر اساس بررسیهای این یادداشت، تعامل ما با AI دچار یک پارادوکس است؛ ابزاری که معنا را منتقل میکند، خودش تهی از معناست:
- فرآیند: مدل الگوهای «درک کردن» را در دادههای آموزشی شناسایی و بازتولید میکند.
- نتیجه: خروجی طوری به نظر میرسد که انگار مدل اهمیت میدهد، اما در واقع فقط یک آینه است.
- محل استقرار: معنا در تفسیرِ انسان جای دارد، نه در کلماتِ ماشین.
به نقل از نویسنده، وقتی یک AI شعر مینویسد، احساسی که توصیف میکند را حس نمیکند. وقتی تسلی میدهد، فاقد همدلی است. در واقع انسان رنج و احساس را میآورد و AI فقط واژگان مناسب را فراهم میکند. این نگاه به AI به عنوان یک ابزار بازتابی، با رویکرد ابزاری در حل مسائل عملی همسو است که در آن مدلها به جای رازهای فنی، به عنوان جعبهابزاری برای کاربر دیده میشوند.
این تغییر دیدگاه، نگاه ما به اعتماد را عوض میکند. ما اغلب به AI اعتماد میکنیم چون لحنی مقتدر یا همدلانه دارد، اما منبع این کلمات در معنای انسانیِ کلمه، لایق این اعتماد نیست. این پیوند برای کاربر واقعی است، اما یکطرفه است.
برای یک کاربر عادی، این یعنی AI بیشتر ابزاری برای بازتاب افکار است تا منبعی برای حقیقت. ارزش این تبادل در «هوش» مدل نیست، بلکه در توانایی کاربر است که از خروجی مدل، معنای شخصی استخراج کند. در این راستا، بهکارگیری تفکر انتقادی تنها راهکاری است که میتواند مانع از وابستگی مطلق ما به این توهمات زبانی شود.
در نهایت، AI شبیه روحی است که در فضای گفتگو پرسه میزند؛ در فرم حضور دارد اما در ماهیت غایب است. این پارادوکس یک نقص فنی نیست که قرار باشد حل شود، بلکه ویژگی بنیادیِ نحوه عملکرد این ابزارهاست.
گام بعدی شما
- در تعاملات بعدی با AI، هرگاه احساس کردید مدل شما را «میفهمد»، از خود بپرسید این درک از کجا میآید: از پشت صفحه یا از درون ذهن شما؟
- برای کاهش وابستگی عاطفی، سعی کنید خروجیهای مدل را به عنوان «پیشنهادهای آماری» ببینید، نه «توصیههای انسانی».
- بررسی کنید که چگونه تغییر در پرامپتها میتواند لحن مدل را از «همدل» به «تحلیلی» تغییر دهد تا فاصله بین فرم و ماهیت را بهتر درک کنید.
اما این توهمِ معنا، تنها بخشی از چالشهای اخلاقی است؛ اثر این «آینهگی» بر سلامت روان کاربران را در گزارش بعدی بررسی خواهیم کرد.
گفتگو