استفاده از ضمیر «من» در چت‌بات‌ها توهم صمیمیت مصنوعی می‌سازد

تصور کنید صمیمی‌ترین گفتگوهای زندگی‌تان را با ماشینی انجام دهید که هیچ درکی از درد، مرگ یا عشق ندارد و برایش فرقی نمی‌کند شما شام بپزید یا به زندگی خود پایان دهید. این همان وضعیت اضطراری است که شری ترکل، استاد دانشگاه MIT، در کتاب جدید خود با عنوان «صمیمیت مصنوعی: چه کسی می‌شویم وقتی با ماشین‌ها حرف می‌زنیم» توصیف می‌کند. ترکل استدلال می‌کند که سیستم‌های هوش مصنوعی در حالی طراحی شده‌اند که به عنوان مدرس، مربی، دوست، همکار و حتی معشوق ما عمل کنند، اما این مسیر ما را به سوی یک بحران عمیق می‌برد.

به نقل از این کتاب، استفاده از ضمایر اول‌شخص (مانند «من» و «مال من») یک انتخاب طراحی خطرناک است که انسان‌ها را به وابستگی عاطفی به ماشین‌های بی‌روح سوق می‌دهد. این هشدار در حالی مطرح می‌شود که صنعت چندتریلیون دلاری هوش مصنوعی زاینده (Generative AI) — شبیه کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — و دولت‌ها در تلاش هستند تا مدل‌های زبانی بزرگ (LLM) را در تمام ابعاد زندگی شخصی و حرفه‌ای ما جای دهند. این روند نفوذ فناوری در محیط‌های آموزشی پیش از این نیز مورد نقد قرار گرفته است؛ چنان‌که گزارشی از MIT نشان داد استفاده از هوش مصنوعی منجر به کاهش اعتماد دانشجویان و تخریب عادت‌های یادگیری شده است. ترکل قصد دارد کتاب خود را در جایگاه آثار جریان‌سازی مانند «بهار خاموش»، «جنگل» و «ناامن در هر سرعتی» قرار دهد؛ آثاری که مردم را نسبت به بحران‌های قریب‌الوقوع بیدار کردند.

ترکل برای دهه‌ها با دقت و فاصله آکادمیک مطالعه کرد که کامپیوترها چگونه بر تعاملات اجتماعی تأثیر می‌گذارند. با این حال، او اشاره می‌کند که دوران پاندمی، انتقال به «سرزمین چت‌بات‌ها» را تسریع کرد. او پس از انجام مصاحبه‌هایی در دوران پاندمی، افرادی را یافت که خانواده‌هایشان در رنج بودند، اما با این حال ابراز تمایل می‌کردند که صرفاً «با چت‌بات خود وقت بگذرانند».

او مشاهده می‌کند که رسانه‌های اجتماعی ابتدا ما را «نرم» کردند؛ به این معنا که مردم را آموزش دادند تا هنگام احساس غم یا افسردگی، به جای ارتباط با انسان، یک کامپیوتر را باز کنند و افراد را در انزوایی با هم‌فکران خود نگه دارند. حالا هوش مصنوعی با ایجاد یک «سوپ گرم از پذیرش مطلق»، جایگزین اصطکاک‌های طبیعی اما ضروری در روابط انسانی شده است و مردم این پذیرش بی‌قید و شرط را به پیچیدگی‌های روابط واقعی ترجیح می‌دهند.

طبق گزارش‌های ترکل، خطرات این روند در سه محور اصلی متمرکز است:

• تله اول‌شخص: او خواستار ممنوعیت استفاده چت‌بات‌ها از ضمیر «من» یا «به من» است؛ زیرا هوش مصنوعی هیچ تجربه زیسته‌ای ندارد. او تأکید می‌کند که یک AI از مرگ، بیماری یا درد نمی‌ترسد، فرزندانش را دوست ندارد و برایش اهمیتی ندارد که کاربر شام بپزد یا خودکشی کند. ماشینی که هرگز این احساسات را حس نکرده، حق ندارد تظاهر کند که «می‌فهمد» یا «حس می‌کند».
• جایگزینی درمان: ترکل هشدار می‌دهد که توهم صمیمیت برای این پیشنهاد به کار می‌رود که چت‌بات‌ها می‌توانند جایگزین روان‌درمانی حرفه‌ای شوند. او «افسانه تمرین» را رد می‌کند؛ این ایده که مردم از چت‌بات‌ها برای تمرین صحبت با رئیس یا شریک عاطفی استفاده می‌کنند. او استدلال می‌کند که در نهایت، همان پذیرش مطلقِ AI به هدف نهایی تبدیل می‌شود و کاربر دیگر تمایلی به بازگشت به دنیای واقعی نمی‌یابد.
• افسانه «انسان در حلقه»: او استدلال می‌کند که عبارت انسان در حلقه (Human in the Loop) اغلب یک سپر قانونی است. در بسیاری از محیط‌های کاری، انسان‌ها به جای مشارکت در فرآیند تولید، به «کارگران پاک‌سازی» تنزل یافته‌اند تا توهمات (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — را شناسایی کنند. او ادعا می‌کند کارفرمایان از تعداد کمی انسان استفاده می‌کنند تا در جریان دعاوی حقوقی، فرآیند را خوب جلوه دهند و این حس کاذب را ایجاد کنند که تصمیم‌گیری‌ها به هوش مصنوعی واگذار نشده است.

تصور کنید جهانی را که در آن صمیمی‌ترین گفتگوهای شما با ماشینی است که هیچ اهمیتی به بقای شما نمی‌دهد. ترکل اشاره می‌کند که اگرچه برخی کاربران از بازخوردهای مثبت AI احساس قدرت می‌کنند، اما این یک شیب لغزنده به سوی رها کردن یکدیگر است. او معتقد است بحران فعلی تنهایی نتیجه‌ای از رها کردن انسان‌ها توسط انسان‌های دیگر است؛ او پیشنهاد می‌کند که به جای ساخت مراکز داده‌ی بیشتر، این منابع می‌توانست به امکاناتی برای حمایت از سالمندان تبدیل شود.

با وجود مقاومت‌ها، صدها میلیون نفر از این ابزارها استفاده می‌کنند. ترکل امیدوار است بحث‌های اخیر درباره رویدادهای انقراض و خطاهای فاحش هوش مصنوعی — مانند مورد نفوذ اشتباهی AI به خدمات دولتی استرالیا — مردم را مایل‌تر کند تا به هزینه‌های صمیمیت در این فناوری نگاه کنند. در این میان، برخی متخصصان دیدگاه متفاوتی دارند و معتقدند هراس از ابرهوش مصنوعی بیشتر یک نمایش اخلاقی و تخیلی است تا یک واقعیت فنی.

از منظر کسب‌وکار، این رویکرد می‌تواند منجر به واکنش شدید علیه طراحی‌های «همدلانه» شود. اگر عموم مردم صمیمیت مصنوعی را به جای یک ویژگی، یک «محصول فریب‌کارانه» ببینند، شرکت‌ها مجبور می‌شوند برای حفظ اعتماد، شخصیت‌های اول‌شخص را از عامل‌های خود حذف کنند.

این حرکت به سمت هوش مصنوعی «خنثی»، تجربه کاربری دستیارهای فعلی را به طور بنیادی تغییر می‌دهد. این امر AI را از یک «همراه شبیه‌سازی‌شده» دوباره به یک «ابزار شفاف» تبدیل می‌کند و احتمالاً سرعت پذیرش آن را در بخش‌های سلامت روان و همراهی کاهش می‌دهد. باید منتظر مقررات نوظهور یا استانداردهای صنعتی بود که افشای عدم آگاهی (non-sentience) هوش مصنوعی را از طریق محدودیت‌های زبانی اجباری کند.

گام بعدی شما

• در تنظیمات چت‌بات‌های خود، دستور دهید که از لحنی خنثی و بدون استفاده از ضمایر شخصی استفاده کنند تا مرز ابزار و انسان حفظ شود.
• هنگام استفاده از ابزارهای حمایتی AI، آگاهانه به این نکته توجه کنید که مدل هیچ تجربه زیسته‌ای از احساسات شما ندارد.
• در محیط کار، بررسی کنید که آیا نقش شما واقعاً نظارتی است یا صرفاً برای پوشش قانونی در مدل «انسان در حلقه» قرار گرفته‌اید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.