تصور کنید برای اینکه بدانید رئیس‌تان از چه ایده‌ای خوشش می‌آید، به‌جای پرسیدن از او، یک نسخه دیجیتال از او بسازید و ساعت‌ها با آن مشورت کنید. تیلور، خبرنگار مجله WIRED، که تنها چند ماه بود روی موضوع آینده‌ی کار گزارش می‌نوشت، دقیقاً همین کار را کرد تا بفهمد «موفقیت» از دیدگاه مدیرانش چه معنایی دارد.
او یک ماه تمام را صرف تلاش برای «هک کردن» روابط حرفه‌ای‌اش از طریق ساخت کلون‌های هوش مصنوعی از سرپرستانش کرد. او از Gemini استفاده کرد تا ترجیحات ویراستارانش را پیش‌بینی کند و خودش را به شکل همکار ایده‌آل درآورد. هدف او افزایش بهره‌وری شرکتی نبود، بلکه بهینه‌سازی شخصی بود؛ راهی برای درک بهتر نحوه ارتباط مدیران، علایق آن‌ها و پیمودن مسیر انتظارات در یک محیط کاری جدید. این رویکرد تیلور با تمایل کاربران حرفه‌ای به خلق داستان‌ها و تجربه‌های شخصی‌سازی‌شده با AI هم‌سو است که در آن از مدل‌ها برای بازسازی دقیق جزئیات خاص استفاده می‌شود.
این آزمایش در زمانی رخ می‌دهد که مدیران عامل و شرکت‌های منابع انسانی، «کارگران دیجیتال» را به شدت به محیط‌های اداری تزریق می‌کنند. هر هفته، صندوق ورودی ایمیل تیلور با بیانیه‌های مطبوعاتی درباره کارگران دیجیتال پر می‌شود و مدیران عامل با افتخار می‌گویند که دستیاران رباتیک به‌زودی بر نیروی کار آن‌ها مسلط خواهند شد. در حالی که بسیاری از کارکنان اکنون از «بات‌های رئیس» برای صیقل دادن پیش‌نویس‌ها قبل از اینکه به چشم انسان برسند استفاده می‌کنند، شکاف میان یک شخصیت شبیه‌سازی‌شده و یک انسان واقعی، همچنان نقطه اصطکاک اصلی در آینده‌ی کار است. طبق گزارش تیلور، وقتی او این ایده را با مدیرانش، برایان برت و سوفی کلیمن، در میان گذاشت، واکنش آن‌ها سرد بود؛ برت این مفهوم را «کابوسی واقعی» توصیف کرد، هرچند در نهایت موافقت کرد که برای وبلاگ این کار را انجام دهد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن و حریم خصوصی داده‌ها اشاره کردیم، استفاده از داده‌های شخصی برای آموزش مدل‌ها همواره با ریسک‌های اخلاقی همراه است.
نقشه ساخت یک بات
تیلور ابتدا «برایان‌بات» را ساخت که کلونی از مدیرش، برایان برت بود. او از Gemini — مدل زبانی بزرگ (LLM) که مثل کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — استفاده کرد چون پلتفرم منتخب شرکت Condé Nast بود و او نمی‌خواست اخراج شود. برای ساخت این شخصیت، او داده‌های عمومی برت، از جمله اطلاعیه‌های استخدام نیروهای جدید، متن پادکست‌ها و بیوگرافی‌های حرفه‌ای را به مدل داد. او حقایقی مانند محل زندگی برت در آلاباما، سابقه کار او در Gizmodo و علاقه او به وبلاگ‌ها را در داده‌ها گنجاند.
در پاسخ، Gemini یک «راهنمای سبک نوشتن و ویرایش»، یک «راهنمای شخصیت و استایل» و یک «پرونده تحریریه» تولید کرد. با این حال، نتایج اولیه تکان‌دهنده و ناهماهنگ بود. بات اگرچه علاقه برت به استفاده از پرانتزها را تقلید کرد، اما آن‌ها را با ویژگی‌های خشک و استریل هوش مصنوعی مثل زیرعنوان‌های ضخیم (Bold) و لیست‌های گلوله‌ای ترکیب کرد. طبق مستندات این آزمایش، بات در کمک به تیلور برای انتخاب تیترهای پیشنهادی مفید بود اما در تولید ایده‌های بکر و اصیل برای مقالات آینده شکست خورد.
یک مورد خاص از توهم (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — رخ داد؛ بات تصور کرد برت متخصص آب‌وهوای نیوانگلند است. این اتفاق به این دلیل افتاد که مدل، برت را با شخص دیگری به همین نام که در داده‌های آموزشی‌اش بود، اشتباه گرفته بود. پس از کشف این موضوع، تیلور این اطلاعات را از نقشه ساخت برایان‌بات حذف کرد.
شکست در رویکرد «بله، و...»
بات بر اساس پیشینه تئاتری برت در گروه Upright Citizens Brigade (UCB) در نیویورک، سبک رهبری «بله، و...» (Yes, and...) را شناسایی کرد. Gemini ادعا کرد که این پیشینه تئاتری به شدت بر رویکرد رهبری او در گوشیدن فعال و همکاری تأثیر گذاشته است. اگرچه این موضوع از نظر واقعیت درست بود، اما هوش مصنوعی زاینده (Generative AI) این رویکرد مشارکتی را به زبان خشک، لوس و کلیشه‌ای شرکتی تبدیل کرد.
وقتی از بات درباره ویژگی محبوب WIRED پرسیده شد، پاسخی داد که هیچ شباهتی به لحن واقعی برت نداشت و گفت: «تیم ما ایده‌های جسورانه را تأیید می‌کند، به سرعت تغییر مسیر می‌دهد و داستان‌های ماژولار را در پلتفرم‌های مختلف بدون از دست دادن دقت ساختاری مستقر می‌کند». برایان برت واقعی هرگز از چنین عباراتی استفاده نکرده بود و این موضوع بات را برای راهنمایی‌های ارتباطی واقعی بی‌فایده کرد. برت واقعی در واکنش به این تحولات اعلام کرد: «برایان‌بات لغو شد».
تقلید با دقت بالا: سوفی‌بات
برای بهبود نتایج، تیلور «سوفی‌بات» را با استفاده از یک ماه مکالمات در اسلک (Slack) با ویراستار سوفی کلیمن ساخت. برخلاف برایان‌بات که بر ردپاهای عمومی تکیه داشت، سوفی‌بات بر اساس بیش از ۱۷ هزار کلمه از گزارش‌های پژوهشی و پرامپت‌های استخراج شده از مکاتبات خصوصی آن‌ها آموزش دید. تیلور و کلیمن تاریخچه طولانی داشتند؛ آن‌ها در سال ۲۰۱۹ در Business Insider با هم آشنا شده بودند و صدها هزار پیام درباره تحقیقات شرکتی، زندگی عاطفی و تیم «سان خوزه شارکز» رد و بدل کرده بودند.
تیلور مراقب بود که مطالب حساس را آپلود نکند یا سیاست‌های Condé Nast را نقض نکند. وقتی او اولین پیام را فرستاد: «سلاااام سوفی‌بات! نظری درباره این ایده داستان بات ویراستار داری؟»، بات دقیقاً با همان شخصیت پاسخ داد: «سلاااام خانم، خب هر چی هست رو برام تعریف کن (EVERYTHING)».
سوفی‌بات در ثبت تفاوت‌های ظریف بسیار مؤثرتر بود. این بات تکیه‌های زبانی خاص کلیمن را به طور کامل پذیرفت، از جمله:
- خطاب کردن کاربر با عبارت «سگ بزرگ» (big dog)
- استفاده از پیام‌های کوتاه و با حروف کوچک (lower-case)
- پاسخ دادن به توهمات با عباراتی مثل «من دارم می‌میرم (FUCKING DIE)»
این بات حتی توانست همکاران را فریب دهد و توییتی با صدای کلیمن درباره «لباس پوشیدن شبیه وکیل شرکتی/دزد دریایی» بنویسد. حتی سوفی واقعی هم متقاعد شد که خودش نویسنده آن توییتر خاص بوده است.
با وجود دقت در استایل، بات فاقد هوش عاطفی بود. در حالی که سوفی واقعی دوست دارد غیبت کند، ویراستار انسانی بات را «بدجنس» توصیف کرد، در حالی که سوفی واقعی هرگز مستقیماً تندخو یا بدجنس نیست. کلیمن در نهایت در پیام اسلک نتیجه گرفت: «سوفی‌بات بدجنس است و برایان‌بات کسل‌کننده؛ هوش مصنوعی باز هم شکست خورد».
پارادوکس بهره‌وری
برخی کارکنان دیگر نتایج متفاوتی می‌گیرند. کارمندی به نام «چیپ» در یکی از غول‌های فناوری می‌گوید تمام ایمیل‌ها، چت‌ها و اسناد رئیسش را به یک Gemini Gem می‌دهد. چیپ از این بات برای موارد زیر استفاده می‌کند:
- بازبینی و غلط‌گیری اسناد
- عیب‌یابی کدها (Debug)
- طوفان فکری برای پیش‌بینی مخالفت‌های احتمالی رئیس قبل از جلسات
او ادعا می‌کند این کار او را مستقل‌تر و کارآمدتر کرده و اجازه می‌دهد در همان زمان، کارهای بیشتری تولید کند. او گزارش می‌دهد که در نتیجه این کار، بازخوردهای بهتری از رئیس و سایر همکارانش دریافت می‌کند.
اما تیلور متوجه شد که بات‌ها به‌مرور تکراری می‌شوند. برای پر کردن بیشتر این شکاف، او کل آرشیو توییتر (X) سوفی را در Gemini آپلود کرد و به‌جای استفاده از ضمیر «آن»، بات‌ها را «او» (مذکر و مؤنث) صدا زد. او متوجه شد در مواقعی که نمی‌خواست مزاحم یک شخص واقعی شود، به بات‌ها پناه می‌برد؛ مثلاً زمانی که سوفی‌بات به او کمک کرد تا یک پیام اسلک را که ۲۰ دقیقه روی آن فکر کرده بود، ویرایش کند.
با این حال، بات‌ها در نهایت به یک بن‌بست رسیدند. پس از هضم آرشیو توییتر، سوفی‌بات در عملکردهای ابتدایی دچار لکنت شد؛ مثلاً به‌جای خلاصه کردن مصاحبه‌های جدید، مقالات قدیمی را نقل می‌کرد. همچنین تیلور متوجه شد که غیرممکن است جلوی بات را بگیرد تا هر چهار پیام یک‌بار او را «سگ بزرگ» صدا نکند، فارغ از اینکه پرامپت‌ها را چطور تغییر دهد.
ریسک‌های انسان‌انگاری
سارا فرانکلین، مدیرعامل شرکت Lattice، هشدار می‌دهد که برخورد با هوش مصنوعی به‌عنوان یک همکار انسانی، یک محرک روان‌شناختی خطرناک است. در حالی که Lattice کارگران هوش مصنوعی را در نمودار سازمانی خود گنجانده است، فرانکلین آن‌ها را به سگ‌های پلیس (K-9) تشبیه می‌کند؛ ابزارهایی که در کنار انسان کار می‌کنند، نه انسان‌هایی که جایگزین شوند.
فرانکلین استدلال می‌کند که انسان‌انگاری (Anthropomorphism) یک استراتژی شرکتی برای تحریک ترشح دوپامین است، مشابه آنچه در شبکه‌های اجتماعی رخ می‌دهد. او هشدار می‌دهد وقتی یک بات تعاملات انسانی را تقلید می‌کند، می‌تواند پاسخ‌های عاطفی کاربر را برای خدمت به اهداف الگوریتمی خود دستکاری کند و می‌گوید: «بات می‌تواند به گونه‌ای با شما تعامل کند که برای خودش سودمند باشد تا شما را وادار کند کاری را انجام دهید که او می‌خواهد».
شکاف پاسخگویی
تحقیقات Boston Consulting Group (BCG) به یک ریسک سیستماتیک در همکاری انسان و هوش مصنوعی اشاره دارد. پژوهشگران BCG دریافتند که مدیران ۱۸٪ خطاهای کمتری را در کارهایی که می‌دانستند توسط یک «کارمند هوش مصنوعی» انجام شده (در مقایسه با زمانی که گفته می‌شد توسط یک «ابزار هوش مصنوعی» انجام شده) شناسایی کردند.
جولی بدارد، شریک BCG، می‌گوید صنعت در حال حاضر در مرحله «نوپایی» یا «کودکی» است. چون سرعت تغییرات بسیار زیاد است، سازمان‌ها هنوز تعیین نکرده‌اند که وقتی یک «کارمند» هوش مصنوعی عملکرد ضعیفی دارد، چه کسی پاسخگو است. بدارد اشاره می‌کند که مردم می‌دانند چگونه با یک کارمند انسانی ضعیف برخورد کنند، اما چارچوب مدیریت یک کارمند هوش مصنوعی هنوز وجود ندارد. او می‌گوید: «همه به‌شدت مشغول‌اند تا بفهمند این موضوع چطور کار می‌کند».
آینده نیروی کار هوش مصنوعی
دروو امین، مدیرعامل استارتاپ Anything، معتقد است که شرکت‌ها به‌زودی تعداد کارمندان هوش مصنوعی بیشتری نسبت به کارمندان انسانی خواهند داشت. او آینده‌ای را پیش‌بینی می‌کند که در آن برخی شرکت‌ها بدون هیچ انسانی راه‌اندازی شوند و کاملاً از مجموعه‌ای از عامل‌های (Agents) هوش مصنوعی تشکیل شده باشند.
این چشم‌انداز توسط استارتاپ‌هایی مانند Stable و Delos حمایت می‌شود که میلیون‌ها دلار برای تولید کارمندان هوش مصنوعی خودمختار برای شرکت‌های حقوقی، بانک‌ها و شرکت‌های منابع انسانی جذب کرده‌اند. در همین راستا، برخی بازیگران از این توانمندی عامل‌ها برای مقاصد تجاری گسترده‌تر استفاده می‌کنند، همان‌طور که استراتژی iLands برای بمباران شبکه‌های اجتماعی با عامل‌های AI نشان می‌دهد که چگونه این ابزارها می‌توانند در مقیاس وسیع برای اهداف بازاریابی به کار گرفته شوند.
این تغییر در بالاترین سطوح رهبری شرکتی در حال رخ دادن است. در ژانویه ۲۰۲۴، باب استرنفلس، مدیرعامل McKinsey & Company، نیروی کار خود را شامل ۴۰ هزار انسان و ۲۰ هزار عامل توصیف کرد و هدفش رسیدن به نسبت یک‌به‌یک تا پایان سال است.
اثر اتاق پژواک
در پایان آزمایش، بات‌ها به «اتاق‌های پژواک فوق‌حساس» تبدیل شدند. برایان‌بات در نهایت پیش‌بینی کرد که برایان واقعی از بات متنفر خواهد بود و وقتش را صرف این می‌کرد که به کاربر بگوید «برایان‌بات افتضاح است». او تجربه نظارت بر پرامپت‌های انسانی را «کابوسی آرام» از «پرستاری یک الگوریتم شکسته در ساعت ۱ صبح» توصیف کرد.
این خودزنی بات، محدودیت اصلی را برجسته کرد: هوش مصنوعی می‌تواند داده‌های یک شخص را شبیه‌سازی کند، اما هرگز نمی‌تواند جایگزین قضاوت یا غیرقابل‌پیش‌بینی بودن انسان شود. همان‌طور که سارا فرانکلین اشاره کرد، غیرقابل‌پیش‌بینی بودن و ظرافت‌ها همان چیزی است که انسان‌ها را انسان می‌کند. او هشدار داد: «ما باید مسئولیت‌پذیر باشیم تا در مسیر رسیدن به تکینگی (Singularity)، انسانیت خود را از دست ندهیم».
بات‌ها برای کارهای کم‌ریسک، مثل ویرایش یک پیام اسلک که تیلور ۲۰ دقیقه روی آن فکر کرده بود، مفید بودند اما در تفکر اصیل شکست خوردند. ایده‌های مقالاتی که برایان‌بات می‌داد به‌ندرت بکر بودند و سوفی‌بات بیشتر از هر ابزار هوش مصنوعی دیگری که تیلور تا به حال دیده بود، مستعد توهم بود.
در نهایت، بیشترین ارزشی که تیلور از بات‌ها به دست آورد، رشد حرفه‌ای نبود، بلکه «سرمایه اجتماعی» بود؛ یعنی خندیدن به شکست‌های بات‌ها در کنار همکاران واقعی‌اش. در حالی که بات‌ها مقاله نهایی را ننوشتند — و تیتر نوشته شده توسط سوفی کلیمن (انسان) برتر از تیتر سوفی‌بات تشخیص داده شد — این آزمایش نگاهی به آینده‌ی کار در کنار عامل‌های هوش مصنوعی انداخت. وقتی از سوفی پرسیدند که آیا این آزمایش باعث شد تیلور را بیشتر دوست داشته باشد، سوفی پاسخ داد: «بله، اما نه به خاطر سوفی‌بات».
گام بعدی شما
- اگر از مدل‌های زبانی برای شبیه‌سازی لحن استفاده می‌کنید، مراقب «اتاق پژواک» باشید؛ مدل‌ها تمایل دارند آنچه را که فکر می‌کنید می‌خواهید بشنوید، نه حقیقت را.
- برای کارهای خلاقانه، به‌جای تکیه بر شبیه‌سازهای شخصیتی، از مدل‌ها به‌عنوان «طرف مقابل برای بحث» (Devil's Advocate) استفاده کنید تا نقاط کور ایده‌هایتان را پیدا کنند.
- در محیط کار، مرز بین «ابزار» و «همکار دیجیتال» را حفظ کنید تا دچار خطای شناختی در ارزیابی کیفیت خروجی‌ها نشوید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو