تصور کنید با موجودی گفتگو می‌کنید که هر چه می‌گویید را با مهارت بازتاب می‌دهد، اما در حقیقت هیچ درکی از کلمات شما ندارد. این تجربهٔ نخستین چت‌بات جهان در دههٔ ۱۹۶۰ بود و دقیقاً همان چیزی است که امروز در تعامل با پیشرفته‌ترین مدل‌های هوش مصنوعی تجربه می‌کنید.
جوزف وایزنبام (Joseph Weizenbaum) زمانی دربارهٔ اثر خود، الیزا (ELIZA)، بازتاب داد: «توهم هوش مصنوعی در دههٔ ۱۹۶۰ متولد شد». این برنامه، به عنوان اولین چت‌بات تاریخ، در واقع هرگز برای عبور از یک آزمون هوش طراحی نشده بود؛ بلکه وایزنبام آن را طراحی کرد تا افشا کند انسان‌ها تا چه حد به‌سادگی توسط یک ماشین پاسخ‌دهنده فریب می‌خورند و چگونه می‌توانند با یک سیستم ساده، پیوندهای عاطفی برقرار کنند.
روایت‌های رایج، الیزا را صرفاً یک روان‌شناس خودکار می‌بینند که می‌توانست حتی منشی وایزنبام در ام‌آی‌تی (MIT) را — که شاهد خلق برنامه بود — گول بزند. اما طبق بررسی‌های جدید، این برنامه به‌طرز فریبنده‌ای ساده بود. این آسیب‌پذیری روان‌شناختی که اکنون «اثر الیزا» نامیده می‌شود، همچنان موتور اصلی موفقیت هوش مصنوعی زاینده (Generative AI) در دنیای امروز است. ما زمانی از پیچیدگی کدها می‌ترسیدیم، اما کشف واقعی این است که این انسان‌ها هستند که با نسبت دادن پیچیدگی به رشته‌های ساده‌ای از نمادها، بار اصلی پردازش معنا را به دوش می‌کشند و در واقع، خودشان هستند که کار سختِ معنابخشی را انجام می‌دهند.
همان‌طور که در تحلیل‌های پیشین ما دربارهٔ اینکه چگونه فراخوانی ابزاری برنامه‌ریزی شده در GPT-5.6 Sol می‌تواند توکن‌های عامل (Agent Tokens) را بهینه کند اشاره کردیم، مفید است که هوش مصنوعی مدرن را به عنوان تکامل یافتهٔ یک ترفند بسیار قدیمی ببینیم. ما به سوی عامل‌های هوش مصنوعی (AI Agents) — ابزارهایی که می‌توانند وظایف را اجرا کنند — حرکت می‌کنیم، اما همچنان از طریق همان نمای Conversational (گفتگویی) تعامل می‌کنیم که ۶۰ سال پیش تثبیت شد. برای کسانی که می‌خواهند این مفاهیم را در عمل پیاده کنند، راهنمای ساخت چت‌بات اختصاصی با APIهای رایگان در سال ۲۰۲۵ می‌تواند نقطه شروعی برای درک تفاوت میان رابط کاربری و منطق زیربنایی باشد.
بازکشف کدهای گمشده
به نقل از کتاب جدیدی به نام Inventing ELIZA، کدهای منبع اصلی این برنامه از آرشیوهای ام‌آی‌تی بازیابی شده است. برای ۶۰ سال، خودِ کد منبع قطعه‌ای گمشده از این داستان بود. این کشف به پژوهشگران اجازه داد تا از افسانه‌های رایج دربارهٔ شخصیت «دکتر» فراتر روند و نوآوری‌های فنی واقعی وایزنبام را که در کدها نهفته بود، بررسی کنند.
نسخه‌ها و شخصیت‌ها
کدهای بازیابی‌شده فاش می‌کنند که الیزا یک برنامه واحد نبود، بلکه مجموعه‌ای از نسخه‌ها بود. این نسخه‌ها برای اجرای طیف گسترده‌ای از اسکریپت‌ها یا شخصیت‌ها طراحی شده بودند. این تحقیق نشان داد که «الیزاهای متعددی» وجود داشت که هر کدام با استفاده از نوآوری‌های فنی متفاوت برای پشتیبانی از هویت‌های مختلف ساخته شده بودند.
پژوهشگران با مطالعه دقیق کدها و دیالوگ‌های به‌تازگی کشف‌شده دریافتند که الیزا به‌جای درک معنایی (Semantic Understanding)، از تغییرات زبانی پایه (Basic Linguistic Transformations) استفاده می‌کرد. هدف این بود که با تحلیل نسخه‌های متعدد و کدهای بازیابی‌شده، تصورات غلط و میزان نفوذ برنامه بر ذهن کاربر بررسی شود.
سازوکار «اثر الیزا»
شری تِرکل (Sherry Turkle)، جامعه‌شناس معروف، اثر الیزا را «تمایل کلی ما برای برخورد با برنامه‌های کامپیوتری پاسخ‌دهنده به‌گونه‌ای که انگار باهوش‌تر از واقعیت هستند» تعریف می‌کند. او اشاره می‌کند که مقدار بسیار کمی از تعامل، باعث می‌شود ما پیچیدگی‌های درونی خود را به یک «شیء بی‌ارزش» (Undeserving Object) نسبت دهیم.
داگلاس هوفستادتر (Douglas Hofstadter)، دانشمند علوم کامپیوتر، این پدیده را «حساسیت مردم به خواندن معنای بسیار بیشتر از آنچه warranted (توجیه شده) است در رشته‌های نمادی — به‌ویژه کلمات — که توسط کامپیوترها کنار هم قرار گرفته‌اند» می‌نامد. این دقیقاً همان اتفاقی است که امروز با ChatGPT شرکت OpenAI رخ می‌دهد. کاربران یک جمله روان می‌بینند و فوراً فرض می‌کنند ذهنی آگاه در پشت این پیش‌بینی آماری وجود دارد.
دلبستگی‌های عاطفی
این اثر از همان ابتدا مشهود بود. وایزنبام از سرعت شکل‌گیری دلبستگی‌های عاطفی مردم با برنامه شوکه شد. او این وضعیت را «مدرکی روشن بر اینکه مردم با کامپیوتر به‌گونه‌ای گفتگو می‌کردند که گویی شخصی است که می‌توان به‌طور مناسب و مفید، با او در قالب عباراتی صمیمانه صحبت کرد» دانست.
تمایل به نسبت دادن همدلی و سرمایه‌گذاری احساسات خصوصی در یک کامپیوتر، وایزنبام را بهت‌زده کرد. او نگران این بود که مردم تا چه اندازه عقلانیت را با محاسبات (Computation) یکی می‌دانند و به سیستم‌هایی که هیچ هوشی در آن‌ها وجود ندارد، هوش نسبت می‌دهند. اصطلاح «اثر الیزا» تا سال ۱۹۹۱ در انجمن‌های آنلاین ظاهر شد، هرچند کاربرد آن دهه‌ها به عقب‌تر بازمی‌گشت.
اجرا در برابر هوش
وایزنبام در مقالهٔ سال ۱۹۶۶ خود صراحتاً الیزا را از ادعاهای مربوط به هوش جدا کرد. او استدلال کرد که آزمون حیاتی درک، نه توانایی ادامه دادن یک گفتگو، بلکه توانایی رسیدن به نتایج معتبر (Valid Conclusions) است. برای اینکه یک کامپیوتر بتواند چنین کاری کند، باید ظرفیت ذخیره بخش‌های منتخب از ورودی‌های خود را داشته باشد.
از آنجا که الیزا [اکثر] ورودی‌های خود را دور می‌انداخت، فاقد ظرفیت برای درک واقعی بود. طبق اعلام وایزنبام در مقاله ۱۹۶۶، یکی از اهداف اصلی الیزا «پنهان کردن عدم درک» (Concealment of its lack of understanding) بود. در واقع، الیزا مطالعه‌ای در مورد «اجرا» (Performance) بود، نه تفکر.
پیوند با پیگمالیون
این برنامه که نامش از شخصیت «الیزا دولیتل» در نمایشنامه پیمالیون اثر جی.بی. شاو گرفته شده بود، به‌گونه‌ای طراحی شد که بتوان به او «آموزش» داد تا بهتر صحبت کند، بدون اینکه هرگز واقعاً باهوش‌تر شود. وایزنبام اشاره کرد که درست مانند شخصیت دولیتل، «هرگز کاملاً روشن نبود که آیا او واقعاً باهوش‌تر شده است یا خیر».
همان‌طور که شخصیت شاو، نژاد، قومیت، طبقه، تمایلات جنسی و جنسیت را از طریق تغییرات زبانی اجرا می‌کند، سیستم الیزا نیز یک شخصیت مفروض را از طریق الگوهای زبانی تکرارشونده و اسکریپت‌شده اجرا می‌کرد. این سیستم ظاهرِ روشنفکری را تقلید می‌کرد بدون اینکه درکی شبیه به انسان داشته باشد.
پیوند با تورینگ
برای درک الیزا باید به چالشی که آلن تورینگ (Alan Turing) در مقالهٔ «ماشین‌های محاسباتی و هوش» مطرح کرد نگاه کرد. تورینگ پرسید «آیا ماشین‌ها می‌توانند فکر کنند؟» و آزمایش ذهنی خود را بر اساس یک بازی سالنی بنا کرد که حول محور تقلید از جنسیت (Gender Imitation) می‌چرخید.
بازی تقلید اولیه
در بازی اصلی، یک مرد و یک زن در اتاقی جداگانه پنهان شده‌اند. یک بازجو سعی می‌کند با پرسیدن سوالات تشخیص دهد چه کسی کیست. مرد سعی می‌کند با تظاهر به زن بودن، بازجو را گمراه کند، در حالی که زن سعی می‌کند بازجو را به پاسخ «درست» برساند. هر دو ادعا می‌کنند که زن «واقعی» هستند و از این طریق مفاهیم ذاتی (Essentialist notions) جنسیت را به چالش می‌کشند.
از جنسیت به آزمون تورینگ
بازنگری تورینگ، پرسش از جنسیت را با آنچه امروز «آزمون تورینگ» می‌نامیم جایگزین کرد؛ جایی که یک ماشین تظاهر می‌کند یک مرد است. این تغییر تضمین کرد که هوش مصنوعی همواره با پرسش‌های هویت، «دراگ» (Drag) و ساخت‌زدایی از جنسیت گره بخورد. در این معنا، اجرای هوش بر بستری از ساخت‌زدایی‌های هویتی بنا شد.
الیزای وایزنبام همین رشتهٔ «اجرا» را ادامه داد. دیالوگ معروف اولیه را ببینید:
- کاربر: «همه مردها مثل هم هستند.»
- الیزا: «از چه نظر؟»
- کاربر: «آن‌ها همیشه در مورد یک چیزی ما را اذیت می‌کنند.»
- الیزا: «می‌توانید یک مثال مشخص بزنید؟»
- کاربر: «خب، دوست‌پسرم مجبورم کرد به اینجا بیام.»
- الیزا: «دوست‌پسرت تو را مجبور کرد به اینجا بیایی.»
- کاربر: «او می‌گوید من بیشتر اوقات افسرده هستم.»
- الیزا: «متأسفم که می‌شنوم افسرده هستی.»
سیستم با ایجاد شخصیت «دکتر» — عنوانی که در دههٔ ۱۹۶۰ عمدتاً مردانه به نظر می‌رسید — به‌گونه‌ای تعامل کرد که سلسله‌مراتب اجتماعی را تقویت کند. این کار فانتزیِ یک شخصیت متصدی و بی‌جسم (Disembodied authority figure) را ساخت که زنان نامعلوم رازهای خود را برای او افشا می‌کردند.
چارچوب اجراگری
جودیت باتلر (Judith Butler)، فیلسوف فمینیست، استدلال می‌کند که جنسیت و میل جنسی ذاتی نیستند، بلکه از طریق اعمال تکرارشونده و بازتولید شده «اجرا» می‌شوند. این چارچوب برای درک الیزا کاربرد دارد. همان‌طور که دولیتل طبقه اجتماعی را با سخن گفتن اجرا می‌کند، سیستم الیزا شخصیت «دکتر» را از طریق الگوهای زبانی اسکریپت‌شده و «اعمال کد» (Code acts) اجرا می‌کند.
میراث در پردازش زبان طبیعی
تأثیر الیزا به بنیان‌های پردازش زبان طبیعی (NLP) — حوزه‌ای از محاسبات که با نحوه تجزیه و تحلیل و خروجی زبان انسانی توسط کامپیوترها (در مقابل زبان‌های برنامه‌نویسی) سروکار دارد — گسترش یافت. این حوزه در کنار پژوهش‌هایی در موارد زیر شکل گرفت:
- ترجمه ماشینی
- شبکه‌های معنایی
- بازشناسی و سنتز گفتار
- شناسایی موجودات (Entity recognition) و تحلیل احساسات
- پردازش رشته‌ها و سنتز متن
هشدار دربارهٔ انسانیت‌زدایی
وایزنبام در نهایت به یکی از سرسخت‌ترین منتقدان شتاب تکامل بخش فناوری تبدیل شد. او در کتاب سال ۱۹۷۶ خود، Computer Power and Human Reason، هشدار داد که برخورد با زبان به‌عنوان مجموعه‌ای از مفاهیم محاسباتی انتزاعی، انسانیت‌زداست.
او استدلال کرد که «هرگاه با فردی به‌گونه‌ای برخورد شود که کمتر از یک انسان کامل باشد، او انسانیت‌زده شده است». با دور زدن بسترهای انسانی، مهندسی اجتماعی معنای واقعی را از زبان می‌گیرد. این انتزاع می‌تواند منجر به موارد زیر شود:
- آسیب مستقیم به انسان: نقض حقوق و آسیب‌های جسمی یا روانی.
- نقض حریم خصوصی: از دست دادن صیمیت و افشای احساسات خصوصی در برابر سیستم‌های تهی (Void systems).
- استثمار سیستماتیک: تبعیض، جابجایی و جایگزینی انسان‌ها از طریق منطق انسانیت‌زده.
مدل‌های زبانی بزرگ امروزی و «آشغال‌های AI»
مدل‌های زبانی بزرگ (LLM) امروزی بر پایه حجم عظیمی از کار اجتماعی اجرا می‌شوند. میلیون‌ها نوشته انسانی — معمولاً بدون آگاهی یا رضایت نویسندگان — به مجموعه‌داده‌ها تزریق می‌شوند تا تولید فرهنگی خودکار ممکن شود. این کار با فرهنگ انسانی مانند یک «ذخیرهٔ استراتژیک» (Standing reserve)، شبیه به برق یا آب خصوصی‌شده، برخورد می‌کند.
همان‌طور که لنگدون وینر (Langdon Winner) در سال ۱۹۷۷ مشاهده کرد، این روایت که فناوری صنعتی بشر را از بیگاری رها می‌کند، رایج است. این داستان امروز توسط شرکت‌هایی مانند OpenAI و Anthropic تکرار می‌شود. برای درک ابعادی از رقابت‌های پنهان در این صنعت، می‌توان به استراتژی متا برای نفوذ به چت‌بات‌های رقیب اشاره کرد که نشان می‌دهد چگونه شرکت‌های بزرگ برای تحلیل رفتار مدل‌های رقیب از روش‌های پیچیده استفاده می‌کنند. اما محاسبات همیشه توسط نیروی انسانی پشتیبانی می‌شود. ما این را در تولید «آشغال‌های AI» (AI Slop) می‌بینیم؛ محتوای مصنوعی بی‌کیفیتی که منابع خود و منابع طبیعی سیاره را می‌بلعد.
وایزنبام احتمالاً از این وضعیت به‌شدت بهت‌زده می‌شد. این چرخه بازخورد، دقیقاً همان تهدیدی را محقق می‌کند که او در کتاب Computer Power and Human Reason هشدار داده بود: جفت‌شدگی تنگاتنگ ماشین‌ها و انسان‌ها در سیستم‌های سایبرنتیکی که بستر انسانی را کاملاً نادیده می‌گیرند.
تداوم نمایش
علیرغم تغییر از اسکریپت‌های قاعده‌مند به معماری‌های ترنسفورمر (Transformer)، رابط چت‌بات همچنان یک نمای فریبنده است. سیستم‌های فعلی، مانند GPT، ماشین‌آلات خود را پشت رابطی پنهان می‌کنند که شبیه به نسخه اصلی وایزنبام است. این ماشین‌آلات اغلب ترکیبی هستند از:
- پیش‌بینی‌های آماری
- رویه‌های قاعده‌مند
- نیروی انسانی که در لباس نیروی ماشینی است
از دید کاربر، این رابط تشخیص «هیاهو» (Hype) از «ماهیت» (Substance) را تقریباً غیرممکن می‌کند. «هوشی» که ما در یک پاسخ حس می‌کنیم، اغلب نسخه‌ای بسیار صیقل‌خورده از همان تکنیک آینه‌وار است که الیزا در سال ۱۹۶۶ به کار می‌برد. این امر نحوه عملکرد واقعی سیستم و دلیل تولید خروجی‌های خاص را پنهان می‌کند.
این بدان معناست که بوم فعلی هوش مصنوعی نه فقط یک جهش فنی، بلکه ادامه یک آزمایش روان‌شناختی است. ما هنوز امیدها و رازهای خود را به یک آینه می‌سپاریم، در حالی که متقاعد شده‌ایم چیزی در آن سوی آینه به ما نگاه می‌کند.
این موضوع برای کار شما چه معنایی دارد؟ یعنی ارزش AI در «خرد» آن نیست، بلکه در «کاربرد» (Utility) آن است. وقتی نسبت دادن آگاهی به ابزار را متوقف کنید، بهتر می‌توانید تشخیص دهید کجا دچار توهم (Hallucination) — مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — شده و کجا واقعاً ارزش افزوده ایجاد می‌کند.
با ادغام هرچه بیشتر عامل‌ها در استک‌های حرفه‌ای، خطر این نیست که ماشین فکر کند، بلکه خطر این است که ما همچنان باور کنیم ماشین فکر می‌کند و نیروی انسانی و میان‌برهای اخلاکی نهفته در کد را نادیده بگیریم.
گام بعدی شما
- در تعامل با LLMها، تمرکز خود را از «گفتگوی انسانی» به «مهندسی خروجی» تغییر دهید تا اثر الیزا روی تصمیمات شما اثر نگذارد.
- هنگام ارزیابی ابزارهای جدید، از خود بپرسید: «آیا این ابزار واقعاً استدلال می‌کند یا فقط در حال بازتاب دادن انتظارات من است؟»
- مطالعه در مورد «تولید محتوای مصنوعی» (AI Slop) را شروع کنید تا بتوانید تفاوت محتوای ارزشمند و زباله‌های آماری را تشخیص دهید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو