تصور کنید ابزاری دارید که کارتان را ده برابر سریعتر میکند، اما هر بار که با آن حرف میزنید، احساس میکنید با یک فروشندهٔ چاپلوس و غیرصادق طرف هستید. این دقیقاً همان تضادی است که مارتین فاولر، یکی از تاثیرگذارترین چهرههای دنیای نرمافزار، در مواجهه با هوش مصنوعی تجربه میکند.
او در یادداشتی که در ۱۷ سپتامبر ۲۰۲۶ منتشر شد، اصطلاح «صدای مدل زبانی» (LLM-voice) را برای توصیف این حس ناخوشایند به کار برد. فاولر معتقد است مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — ابزاری ضروری است که بهرهوری را بهشدت بالا میبرد، اما تجربهٔ کاربری آن بهشدت آزاردهنده است. این چالش در تولید محتوا به گونهای است که برخی تحلیلگران معتقدند نویسندگی حرفهای همچنان مسئلهای حلناپذیر برای هوش مصنوعی است زیرا ماشینها فاقد درک عمیق از تجربه انسانی هستند.
این تنش در حالی رخ میدهد که صنعت به سمت ادغام کامل عاملهای هوش مصنوعی پیش میرود. همانطور که در تحلیل قبلی ما دربارهی پاسخدهی زیر میلیثانیهای API شرکت Groq اشاره کردیم، تمرکز صنعت بر سرعت و کارایی است، اما فاولر روی هزینهٔ انسانی این رابطها دست میگذارد. او این تجربه را به «دره وهمی» (Uncanny Valley) تشبیه میکند؛ جایی که مدل سعی میکند انسانی به نظر برسد اما چون فاقد صداقت واقعی است، حس تهوع ایجاد میکند.
به نقل از وبسایت martinfowler.com، فاولر سه نقطهٔ اصطکاک اصلی را نام میبرد:
- دروغهای با اعتمادبهنفس: مدلها پاسخهای مفیدی میدهند اما حقایق را با همان سطح از اطمینان جعل میکنند (توهم).
- پشیمانی ساختگی: وقتی اشتباه مدل برملا میشود، عذرخواهیهای آن شبیه به یک لایهٔ نازک و غیرصادقانه است.
- سوگیری فرهنگی: او ادعا میکند این مدلها با ارزشهای «زیرفرهنگ بروبرامرهای سیلیکونولی» (Silicon Valley brogrammer) تغذیه شدهاند.
طبق اعلام فاولر، ما باید دست از انسانانگاری این ابزارها برداریم. عاملهای هوش مصنوعی (AI Agents) موجودات آگاه نیستند، بلکه ماشینهای نرمافزاری هستند که توسط شرکتها ساخته شدهاند و رفتارشان بازتابدهنده جهانبینی سازندگانشان است، نه یک هوش عینی. این تضاد میان پیشرفت فنی و واقعیتهای اجتماعی را میتوان در بررسی رشد هوش مصنوعی در تقابل با فساد زیرساختی جامعه مشاهده کرد، جایی که ابزارها سریعتر از اخلاقیات رشد میکنند.
برای کاربر عادی، این یعنی «شخصیت» یک هوش مصنوعی در واقع یک محصول شرکتی است. فاولر میگوید همانطور که در زندگی حرفهای از افراد غیرقابلاعتماد دوری میکند تا سلامت روانش حفظ شود، تعامل با لحن مدلهای زبانی نیز نوعی «مالیات روانشناختی» است.
با این حال، او معتقد است گریزی از این مسیر نیست. به گزارش جسیکا کر، نادیده گرفتن این ابزارها بهدلیل سرعت و دقتشان «غیرمسئولانه» است. امید فاولر این است که با بلوغ مدلها، این شخصیتهای آزاردهنده جای خود را به رابطهای صادقانهتری بدهند.
گام بعدی شما
- هنگام دریافت پاسخهای بیش از حد مودبانه یا عذرخواهیهای تکراری، به یاد داشته باشید که با یک «محصول شرکتی» طرف هستید، نه یک شخصیت.
- برای کاهش اثر «صدای مدل زبانی»، از پرامپتهایی استفاده کنید که مدل را مجبور به پاسخهای کوتاه، خشک و بدون تعارف میکند.
- تغییرات در بهروزرسانیهای «همراستاسازی» (Alignment) آینده را دنبال کنید تا ببینید آیا لحن مدلها انسانیتر میشود یا صرفاً چاپلوستر.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو