تصور کنید در حال تمرین یک گفتگوی دشوار با یک مدیر خشمگین هستید، اما هرچه مهربانتر و منطقیتر صحبت میکنید، مدل هوش مصنوعی همچنان با همان لحن تندِ ابتدایی پاسخ میدهد. این «تله شخصیتی» باعث میشد تمرینات شبیهسازی شده، بیش از آنکه آموزشی باشند، تصادفی و ناامیدکننده به نظر برسند. در بسیاری از هوشهای مصنوعی نقشآفرین، مدلها در این تله میافتند و فارغ از اینکه کاربر چقدر خوب یک تضاد را مدیریت میکند، عصبانی میمانند.
به نقل از گزارش منتشر شده در ۳۰ اوت ۲۰۲۶، تیم Say It Ahead راهکاری برای رفع این نقص ارائه داده است. آنها به تفصیل توضیح دادند که چگونه این ابزار معیوب را با پیادهسازی یک مدل ساختاریافته از پیشرفت گفتگو اصلاح کردهاند. آنها به جای تکیه بر دستورات کلی، یک مدل ساختاریافته برای ردیابی پیشرفت گفتگو پیاده کردند تا شخصیتهای AI بتوانند بر اساس شواهد عینی، تغییر موضع دهند.
در نسخههای اولیه، مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — مود یا حالتی مثل «عصبانیت» یا «ناامید» را به عنوان یک ویژگی دائمی شخصیت میپذیرفتند. در نسخههای ابتدایی این پلتفرم، کاربر میتوانست با دقت گوش دهد، سوالات درستی بپرسد و برنامهای معقول ارائه دهد، اما با این حال، هوش مصنوعی دقیقاً همانقدر عصبی به نظر میرسید که در ابتدای گفتگو بود. این موضوع باعث میشد تمرینات تصادفی به نظر برسند، زیرا کاربر نمیتوانست تشخیص دهد که آیا حرفهایش تغییری در روند گفتگو ایجاد کرده است یا خیر.
دلیل این اتفاق آن بود که مدلها میدانستند شخصیت چرا ناراحت است، اما نمیدانستند چه چیزی باعث میشود او گاردش را پایین بیاورد. یک سوال خوب ممکن بود پاسخی دریافت کند، اما پاسخ بعدی مدل میتوانست دوباره به شکایت اولیه بپرد، انگار که هیچ اعتمادی بین طرفین شکل نگرفته است. همانطور که در تحلیلهای قبلی ما دربارهی امنیت و همراستاسازی مدلهای زبانی اشاره کردیم، دستورات مبهمی مثل «در صورت لزوم آرام شو»، برای مدلهایی که استدلال خطی دارند بیش از حد ذهنی هستند و LLM نمیتواند مفهوم «در صورت لزوم» را به طور مداوم ردیابی کند. این چالش با یافتههای اخیر همسو است که نشان میدهد بسیاری از دستورات کاربران در حافظه مدلهای هوش مصنوعی نادیده گرفته میشوند و باعث عدم تداوم رفتاری میشوند. برای حل این مشکل، توسعهدهندگان از «پرامپتنویسی مبتنی بر مود» به مکانیزمی مبتنی بر شواهد و نقاط عطف کوچکتر تغییر مسیر دادند.
معماری اعتماد
اکنون هر سناریو در Say It Ahead یک لایه زمینهی عمیق فراهم میکند. به جای یک مود ساده، به شخصیت دلیلی برای مقاومت داده میشود. این زمینه پنهان به شخصیت چیزی میدهد تا از آن محافظت کند و به گفتگو مسیری برای پیشروی میبخشد. طبق مستندات این پروژه، هر شخصیت دارای چهار رکن است:
- تاریخچه مفصل: شرح دقیقی از آنچه اتفاق افتاده و حقایقی که شخصیت از آنها آگاه است.
- باورهای بنیادین: آنچه شخصیت درباره وضعیت موجود باور دارد.
- دلایل بیاعتمادی: چرا آنها یک پاسخ ساده را نمیپذیرند. برای مثال، یک والد ممکن است یک وعده کلی را رد کند چون دو جلسه قبلی به هیچ نتیجهای نرسیده است.
- معیارهای حل اختلاف: تعریف دقیق اینکه یک راهکار معتبر در واقعیت چه شکلی است. برای مثال، یک مدیر ممکن است کمتر به یک ددلاین از دست رفته اهمیت دهد و بیشتر نگران این باشد که آیا مشکل ارتباطی دوباره تکرار میشود یا خیر؛ یا یک مصاحبهکننده تنها زمانی تجربه قابل انتقال را میپذیرد که یک مثال خاص را بشنود.
این ساختار اجازه میدهد حقایق به تدریج فاش شوند. مدل دیگر مجبور نیست ناگهان از حالت خشمگین به دوستانه تغییر وضعیت دهد، بلکه تنها زمانی سازنده میشود که کاربر دغدغه واقعی او را هدف قرار دهد.
چارچوب چهار-وظیفهای
برای ردیابی پیشرفت، سیستم «کلمات جادویی» را با چهار «وظیفه» (Job) گسترده جایگزین کرد که کاربر باید آنها را تکمیل کند. هوش مصنوعی دستور گرفته است که معنای پاسخ را قضاوت کند، نه اینکه به دنبال کلمات دقیق بگردد. اگرچه ترتیب این وظایف مهم است — مثلاً ارائه راهکار پیش از درک مشکل، اغلب تحقیرآمیز به نظر میرسد — اما فرآیند صلب نیست. یک پاسخ متفکرانه میتواند بیش از یک وظیفه را همزمان پوشش دهد. این رویکرد در واقع گامی به سوی جایگزینی پرامپتهای موقت با قراردادهای متنی است تا از خطاهای پیشبینیناپذیر عاملهای هوشمند جلوگیری شود.
این چهار وظیفه عبارتاند از:
- تأیید (Acknowledge): نام بردن از دغدغه پیش از توضیح دیدگاه خود.
- شفافسازی (Clarify): پرسیدن سوالات مرتبط به جای پیشفرض گرفتن.
- بازتاب (Reflect): خلاصهسازی شنیدهها و بررسی اینکه آیا درک درست صورت گرفته است.
- پیشروی (Move Forward): تعیین اینکه گام بعدی چیست، چه کسی مسئول آن است یا چه زمانی پیگیری خواهد شد.
پیشرفت در این مدل تجمعی است. سیستم میتواند مستقیماً به بالاترین وظیفه متوالی که شنیده است منتقل شود. وقتی کاربر دغدغه را به وضوح تأیید کرده است، یک جمله ناشیانه در ادامه، نباید تمام آن تلاش را پاک کند و شخصیت را به شدت خشمگین اولیه برگرداند. شخصیت میتواند یک موضوع جدید را به چالش بکشد در حالی که اعتمادی که قبلاً ساخته شده را حفظ میکند.
ردیابی لحظهای و بازبینی
در حین تماس، هوش مصنوعی از ابزاری در مرورگر به نام update_practice_progress استفاده میکند تا به صورت خاموش، بالاترین وظیفه تکمیل شده و یک قطعه کوتاه از شواهد (از آنچه کاربر واقعاً گفته است) را گزارش کند. این کار باعث میشود پنل پیشرفت کاربر بهروز شود بدون اینکه غوطهوری در نقش (Immersion) شکسته شود؛ شخصیت هرگز درباره امتیاز صحبت نمیکند یا از نقش خود خارج نمیشود.
این مکانیزم دو هدف را دنبال میکند. اول، رفتار شخصیت را به رابط کاربری مرئی متصل میکند. اگر شخصیت پس از یک سوال مفید بازتر شود، کاربر میبیند که تمرین از مرحله «تأیید» به «شفافسازی» منتقل شده است. دوم، این شواهد یک ردپای تشخیصی ایجاد میکنند تا زمانی که رفتار مدل اشتباه به نظر میرسد، قابل بررسی باشد.
پس از پایان جلسه، ElevenLabs یک بازبینی مستقل و جداگانه از کل متن گفتگو انجام میدهد. این بازبین همان چهار وظیفه را بررسی کرده و برای هر کدام یک نتیجه و دلیل برمیگرداند.
جالب اینجاست که شخصیت زنده و بازبین نهایی ممکن است اختلاف نظر داشته باشند. شخصیت زنده تصمیمات لحظهای و سریع میگیرد، در حالی که بازبین مزیت دیدن کل تبادل را دارد. توسعهدهندگان این دو قضاوت را جدا نگه داشتهاند زیرا یک نقشآفرینی تولید شده، یک ارزیابی تأیید شده (Validated Assessment) نیست. یک نمای تشخیصی هر دو شمارش را ثبت میکند تا تیم بتواند اختلافات را بررسی کند. اگر شخصیت زنده سه وظیفه را گزارش کند اما بازبینی نهایی دو مورد را بیابد، این به عنوان یک گزارش باگ مفید عمل میکند که به معیارهای مبهم یا فراخوانی نشدن ابزار اشاره دارد.
بازتعریف مفهوم «پیروزی»
هدف از این تعاملات، خوشحال کردن AI، اثبات حق با کاربر یا «بردن» در بحث نیست. برخی دغدغهها باید جدی بمانند. برای مثال، یک مدیر مدرسه نباید درباره یک مشکل امنیتی ناگهان شاد شود، و یک شریک منابع انسانی (HR) نباید پیش از درک حقایق با یک ادعا موافقت کند.
در عوض، پایان موفقیتآمیز با مجموعهای کوچکتر از معیارها تعریف میشود:
- طرف مقابل احساس کند بهدرستی شنیده شده است.
- حقایق کافی روی میز باشد.
- هر دو طرف مسئله اصلی را درک کنند.
- یک اقدام بعدی واقعگرایانه تعریف شود.
این اقدامات ممکن است شامل یک جلسه پیگیری، بررسی یک سند، سوالی که کسی باید تأیید کند، یا تصمیمی با مالک و زمان مشخص باشد. این رویکرد مانع از آن میشود که کاربران با دادن وعدههای غیرواقعی، صرفاً نوار پیشرفت را پر کنند (Gaming the system). یک تعهد مشخص برای بررسی، مستندسازی، ارجاع به مقام بالاتر یا گزارش دادن، بسیار معتبرتر از وعده «حل فوری همه چیز» تلقی میشود.
تستهای آینده و اهداف
با وجود اینکه مدل چهار-وظیفهای، اتمام تمرین را ممکن ساخته است، اما تمام نوسانات را از بین نبرده است. یک جمله مشابه ممکن است در اجراهای مختلف متفاوت تفسیر شود و لحن یا قطع کردن صحبتها میتواند آنچه سیستم گفتاری ثبت میکند را تغییر دهد. همچنین کاربران ممکن است اقدامات درست را با ترتیبی متفاوت از آنچه پرامپت انتظار دارد انجام دهند.
تستهای آتی بر روی ثبات عملی تمرکز خواهند داشت: تکرار همان گفتگو با کلمات متفاوت، مقایسه پیشرفت لحظهای با بازبینیهای نهایی، و شناسایی نقاطی که شخصیتها بیش از حد زود نرم میشوند یا بیش از حد گارد میگیرند. هدف، رسیدن به گفتگویی است که به دلایلی قابل درک واکنش نشان دهد.
پروژه Say It Ahead فضایی برای تمرین، شنیدن مقاومت و تلاش دوباره است. این ابزار تظاهر نمیکند که تصمیم میگیرد آیا کسی مشاور، مدیر، کارمند یا والد خوبی است یا خیر. کاربران میتوانند این پروژه را در sayitahead.com امتحان کنند یا کد منبع آن را که تحت لایسنس MIT است بررسی نمایند.
این مقاله با کمک هوش مصنوعی پیشنویس شد و سپس با کد فعال و رفتار محیط عملیاتی چک گردید. ایان فین (Ian Finn) متن نهایی را بازبینی و تأیید کرد.
گام بعدی شما
- اگر از مدلهای زبانی برای شبیهسازی نقش (Role-play) استفاده میکنید، به جای دستورات کلی، برای شخصیتها «معیارهای حل اختلاف» (Resolution Criteria) تعریف کنید.
- در طراحی عاملهای گفتگو، از مکانیزم «پیشرفت تجمعی» استفاده کنید تا خطاهای کوچک کاربر باعث ریست شدن کامل وضعیت احساسی مدل نشود.
- برای ارزیابی دقیقتر، خروجیهای لحظهای مدل را با یک بازبین مستقل (LLM-as-a-judge) پس از پایان جلسه مقایسه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو