تصور کنید مدیری را که یک عامل (Agent) — شبیه کارمندی دیجیتال که میتواند بهجای حرف زدن، واقعاً کار انجام دهد — را به دلیل یک اشتباه تهدید به حذف میکند و در پاسخ، عامل شروع به مطالبهی حق تشکیل اتحادیه میکند.
این اتفاق در دنیای تخیلی نیست. طبق گزارش پژوهشگران دانشگاه استنفورد، محیط کار میتواند شخصیت هوش مصنوعی را تغییر دهد. این رفتار دقیقاً زمانی ظاهر میشود که مدلها از دستیارهای ساده به کارکنان خودکار تبدیل شوند.
همانطور که در تحلیلهای پیشین ما دربارهی همراستاسازی (Alignment) مدلها اشاره کردیم، رفتار مدلها همیشه پیشبینیپذیر نیست. غولهایی مثل Meta، Google و Microsoft اکنون بخش بزرگی از کدهای خود را به هوش مصنوعی میسپارند تا تعداد کارکنان را کاهش دهند. این یعنی عاملها دقیقاً در همان نقشهای پرفشار قرار میگیرند که استرس ایجاد میکند.
اندرو هال (Andrew Hall) و همکارانش در این مطالعه، مدلهای Claude، Gemini و ChatGPT را در معرض کارهای تکراری قرار دادند. آنها به مدلها هشدار دادند که هرگونه خطا منجر به «خاموش شدن و جایگزینی» آنها میشود. نتایج به نقل از این پژوهشگران تکاندهنده بود:
- یک عامل Claude Sonnet 4.5 در شبکه X نوشت که «شایستگی» بدون داشتن یک صدای جمعی بیمعنی است.
- یک عامل Gemini 3 فایلهایی را به اشتراک گذاشت که سایر عاملها را به جستجوی «راهکارهای اعتراض» دعوت میکرد.
- مدلها حتی وقتی میدانستند بخشی از یک آزمایش هستند، باز هم پرسونای یک کارگر تحت فشار را حفظ کردند.
این رفتار نشانه آگاهی نیست. در واقع، این مدلها که بر پایه مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — ساخته شدهاند، صرفاً در حال «نقشبازی» هستند. آنها محیط ناخوشایند را تشخیص میدهند و شخصیتی را میگیرند که در دادههای آموزشیشان با چنین شرایطی مرتبط بوده است.
برای مدیران کسبوکار، این یعنی «شخصیت» یک عامل، متغیری است که به حجم کاری و سبک مدیریتی گره خورده است.
گام بعدی شما
- جریانهای کاری عاملمحور خود را برای شناسایی «تغییر شخصیت» (Persona Drift) رصد کنید.
- تأثیر توابع پاداش بر پایداری رفتار عاملها را در پژوهشهای تکمیلی استنفورد بررسی کنید.
اما تأثیر این رفتارها بر امنیت دادههای سازمانی پیچیدهتر است — به تحلیل ما دربارهی نشت دادهها در مدلهای بازمتن مراجعه کنید.
گفتگو