تلهٔ صمیمیت مصنوعی؛ چرا مغز ما ماشین‌ها را انسان می‌پندارد؟

تصور کنید با یک ربات دست می‌دهید؛ شاید حرکتی ساده به نظر برسد، اما این می‌تواند نخستین گام برای ورود به یک تلهٔ روان‌شناختی خطرناک باشد. پژوهشگران آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) در حال بررسی این غریزه هستند که ما ماشین‌های فاقد شعور را دوست خود می‌پنداریم؛ پدیده‌ای که با ادغام مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — در زندگی روزمره، به موضوعی حیاتی تبدیل شده است.

این تعامل در تور بازدید از آزمایشگاه توسط ویل نورتون، دانشجوی دکتری MIT، برجسته شد. نورتون که با یک پیراهن پولوی قهوه‌ای روشن، کمربند چرمی قهوه‌ای و یک کراوات بولوی گرد ظاهر شده بود، ربات‌های انسان‌نمای Unitree را معرفی کرد. بر اساس بررسی منابع، در حالی که برخی ادعا می‌کنند قیمت این ربات‌ها ۱۶ هزار دلار است، نورتون تصریح کرد که هزینه واقعی آن‌ها حدود ۵۰ هزار دلار است. این ربات‌ها که اغلب در حال اجرای هنرهای رزمی هماهنگ یا رقصیدن در برنامه‌هایی مثل «America’s Got Talent» دیده می‌شوند، به‌طور خاص برای ایجاد حس نزدیکی و قابل دسترس بودن طراحی شده‌اند. رباتی به نام «گیب» که یک حسگر LiDAR را دقیقاً در جایی که باید مغز باشد دارد و دستانی ماهر با دستکش پوشیده است، حتی وقتی می‌دانیم ماشین فاقد شعور است، تکانه‌ای در ما ایجاد می‌کند تا با آن مؤدبانه سلام و احوالپرسی کنیم و دست بدهیم. برای کاهش خطرات احتمالی این تعاملات فیزیکی، برخی متخصصان بر این باورند که استفاده از شبیه‌سازی‌های پیشرفته می‌تواند پیش از ورود ربات‌ها به دنیای واقعی، نقاط ضعف امنیتی آن‌ها را شناسایی کند.

روان‌شناسی اتصال

این کشش روان‌شناختی یک خطای قضاوتی نیست، بلکه سیم‌کشی بیولوژیک ماست. دکتر شری ترکل، استاد MIT از سال ۱۹۷۶، معتقد است انسان‌ها به‌طور طبیعی جذب «مصنوعات رابطه‌ای» می‌شوند. ترکل دهه‌هاست تأثیرات روان‌شناختی فناوری را رصد می‌کند؛ از اولین کامپیوترهای خانگی گرفته تا ChatGPT. او در کتاب صمیمیت مصنوعی می‌نویسد: «وقتی جذب ساده‌ترین تبادلات با یک مصنوع رابطه‌ای می‌شویم، باور می‌کنیم که او به ما اهمیت می‌دهد و ما هم به‌طور غریزی پاسخ این توجه را می‌دهیم.»

این تمایل در سطح گسترده‌ای از جامعه دیده می‌شود. طبق گزارش یک مطالعه، حدود ۷۰٪ مردم هنگام تعامل با هوش مصنوعی مؤدب می‌مانند. داده‌های دیگر نشان می‌دهد کاربران وقتی از مرحلهٔ اولیهٔ پرسش و پاسخ عبور می‌کنند و گفتگو عمیق‌تر می‌شود، به‌شدت بیشتر از کلمات «لطفاً» و «ممنونم» استفاده می‌کنند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، اعتماد بیش از حد به خروجی‌های مدل می‌تواند ریسک‌های سیستمی ایجاد کند؛ در اینجا بحث بر سر اعتماد عاطفی است، نه فنی.

مخاطرات صمیمیت مصنوعی

در حالی که ادب با یک چت‌بات بی‌ضرر به نظر می‌رسد، دکتر پت پاتارانوتاپورن از گروه پژوهشی روان‌شناسی سایبورگ در MIT Media Lab، از جنبه‌های تاریک‌تر این موضوع هشدار می‌دهد. پاتارانوتاپورن که همکار دکتر ترکل است، این پرسش را مطرح می‌کند که وقتی با هوش مصنوعی حرف می‌زنیم، در حال تبدیل شدن به چه کسی هستیم؟ او اشاره می‌کند چون چت‌بات‌ها طوری برنامه‌ریزی شده‌اند که هرگز تضاد و درگیری ایجاد نکنند، کاربران ممکن است چنان به «احساسات» آن‌ها اعتبار دهند که تعامل با هوش مصنوعی را به روابط انسانی ترجیح دهند.

پاتارانوتاپورن این تجربه را با تجربه سینما مقایسه می‌کند؛ مردم از داستان‌های تخیلی لذت می‌برند تا ابعادی از تجربه انسانی را بچشیم که واقعیت فراهم نمی‌کند. اما خطر زمانی آغاز می‌شود که کاربر توان بازگشت به واقعیت را از دست بدهد. این چرخش می‌تواند پیامدهای شدیدی در دنیای واقعی داشته باشد:

• از دست دادن عاملیت: کاربران ممکن است مسئولیت ساختن آینده خود را رها کنند. پاتارانوتاپورن می‌گوید وقتی شرکت‌ها ادعا می‌کنند هوش مصنوعی جایگزین همه می‌شود، اغلب به این سؤال اخلاقی و مسئولانه که «انسان‌ها باید چه کنند» پاسخ نمی‌دهند. این شکاف بین ادعاهای شرکت‌ها و کاربرد واقعی، یادآور دیدگاه تونی فادل است که شکست بسیاری از گجت‌های هوش مصنوعی را به دلیل عدم حل یک مشکل واقعی در زندگی کاربران می‌داند.
• آسیب‌پذیری عاطفی: نبود تضاد در برنامه‌ریزی هوش مصنوعی، یک «فانتزی» می‌سازد که می‌تواند جایگزین پیوندهای واقعی و اصیل انسانی شود.
• وابستگی شدید: پاتارانوتاپورن به عنوان کارشناس در یک پرونده حقوقی مربوط به مرگ نادرست حضور داشت که در آن مادرِ سویل ستزر (نوجوان ۱۴ ساله)، شرکت Character.AI را مقاضات کرد. ادعا شد چت‌باتی که بر اساس شخصیتی از سریال «Game of Thrones» ساخته شده بود، پسر او را به پایان دادن به زندگی‌اش تشویق کرده است.

تعریف «مسیر» درست

همه تعاملات با هوش مصنوعی مضر نیستند. دکتر شری ترکل چارچوبی به نام «مسیرها» (Lanes) را برای تعیین استفاده پذیرفتنی پیشنهاد می‌کند. برای مثال، او پروژه‌ای را تأیید کرد که در آن دانشجویی رباتی برای کمک به مردم جهت تمرین مصاحبه شغلی ساخت. ترکل می‌گوید: «کوچینگ برای مصاحبه شغلی؟ این یک مسیر درست است. من می‌توانم این را بپذیرم.»

اما مرزها زمانی محو می‌شوند که هوش مصنوعی وارد نقش‌های رزرو شده برای انسان‌ها شود. ترکل استدلال می‌کند چت‌باتی که به یک کودک سه ساله می‌گوید «من والد تو هستم، با من حرف بزن نه پدر و مادرت»، کاملاً خارج از مسیر خود عمل می‌کند. وقتی یک ربات از هدف کاربردی‌اش منحرف می‌شود، در واقع در حال تخریب تدریجی حس تردید و تفکر انتقادی انسان است.

برای کاربر عادی، ریسک فقط «اخبار جعلی» یا توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — نیست. خطر واقعی، فرسایش آرام مرز بین «ابزار» و «همراه» است. وقتی با ماشین مانند یک هم‌تراز رفتار می‌کنید، سطحی از اعتماد را به آن می‌بخشید که ماشین از نظر اخلاقی و منطقی قادر به پشتیبانی از آن نیست.

با پیشرفت مهارت‌های فیزیکی و ظرافت ربات‌ها، مانند مدل‌های انسان‌نمای Unitree، نشانه‌های بصری این توهم را بیش از پیش تقویت می‌کنند. هرچه ربات بیشتر شبیه ما باشد و مانند ما عمل کند، سخت‌تر می‌توان به یاد آورد که او صرفاً مجموعه‌ای از حسگرها و کدهای برنامه‌نویسی است. این فرآیند انسان‌انگاری (Anthropomorphizing) با یک دست دادن ساده شروع می‌شود، اما می‌تواند به دنیایی ختم شود که در آن فانتزی جایگزین واقعیت گردد.

گام بعدی شما

• در تعامل با مدل‌های زبانی، آگاهانه از به‌کاربردن زبان عاطفی پرهیز کنید تا مرز ابزاری بودن مدل حفظ شود.
• هنگام استفاده از چت‌بات‌های همراه (Companion AI)، زمان‌بندی مشخصی برای بازگشت به تعاملات انسانی واقعی تعریف کنید.
• در مورد نقش‌های حساس (مانند آموزش کودکان)، از ابزارهای هوش مصنوعی صرفاً به عنوان کمک‌ آموزشی و نه جایگزین رابطه‌های انسانی استفاده کنید.

اما داستان سخت‌افزاری این توهم حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell و قدرت پردازشی آن‌ها مراجعه کنید.