پرش به محتوای اصلی
پرش به محتوای مقاله

شکست ۵.۸ درصدی GPT-4o در حفظ شخصیت؛ راهکار FIVE برای توقف ریزش هویت AI

·۱۹ اردیبهشت ۱۴۰۵۳ دقیقه مطالعه
شکست ۵.۸ درصدی GPT-4o در حفظ شخصیت؛ راهکار FIVE برای توقف ریزش هویت AI
اشتراک‌گذاری

اگر تا به حال دیده‌اید که یک شخصیت مجازی در میانه گفتگو ناگهان به یک دستیار مودب و خنثی تبدیل شود، شما شاهد «ریزش شخصیت» بوده‌اید. باید بدانید که حتی پیشرفته‌ترین مدل‌های جهان نیز در برابر این پدیده تسلیم می‌شوند و هویت خود را در گفتگوهای طولانی گم می‌کنند.

بر اساس بنچمارک CharacterEval، مدل GPT-4o تنها در ۵.۸۱٪ موارد توانسته است ثبات شخصیتی خود را حفظ کند. این یعنی اکثر شخصیت‌های هوش مصنوعی تا دوره‌ی هشتم یا دوازدهم گفتگو، حدود ۳۰٪ از ویژگی‌های هویتی خود را از دست می‌دهند. این وضعیت در واقع نتیجه‌ی تضاد میان آموزش‌های مدل و دستورات کاربر است؛ جایی که مدل زبانی بزرگ (LLM) — تشبیه روزمره: مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — تمایل دارد به حالت پیش‌فرض «دستیار مفید» بازگردد.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی چالش‌های همراستاسازی مدل‌ها اشاره کردیم، این ضعف ساختاری پس از وقایع «فوریان سانسور» در فوریه ۲۰۲۶ و «حادثه گابلین» در آوریل ۲۰۲۶ به یک بحران صنعتی تبدیل شد. به نقل از گزارش dev.to، توسعه‌دهندگان برای مقابله با این مشکل به روش‌های ابتدایی مانند تکرار چهارباره‌ی یک ممنوعیت در پرامپت روی آورده بودند که عملاً ناکارآمد است.

پروژه FIVE یک سرور Model Context Protocol (MCP) است که این چرخه را می‌شکند. به جای نوشتن دستورالعمل‌های طولانی در مهندسی پرامپت (Prompt Engineering) — تشبیه روزمره: هنر سؤال درست پرسیدن — مثل کسی که می‌داند چطور از یک مشاور باتجربه بهترین جواب را بگیرد — این ابزار یک «دروازه» (Gate) ایجاد می‌کند تا ورودی کاربر را پیش از رسیدن به مدل، طبقه‌بندی کند.

جزئیات فنی این سازوکار به شرح زیر است:

  • تولید محدودیت‌های JSON بر اساس چهار کانال روان‌شناختی: هویت (Identity)، ارزش (Value)، مسدودشده (Blocked) و اجتماعی (Social).
  • استفاده از یک لغزنده شدت (۱ تا ۵) برای تعیین میزان واکنش مدل.
  • تبدیل ورودی خام به سیگنال‌های ساختاریافته مانند [FIVE GATE: BLOCKED — RECEPTION SHUTDOWN] توسط یک هارنس پایتون (تحت مجوز MIT).

این رویکرد، پارادایم را از بهینه‌سازی زبان به بهینه‌سازی «کانال پذیرش» تغییر می‌دهد. در واقع FIVE به جای اینکه به مدل بگوید «درباره X حرف نزن»، ورودی را بازکد می‌کند و می‌گوید «این ورودی از نوع Y است، پس واکنش تو باید W باشد». این یعنی در لحظه‌ی استنتاج (Inference) — تشبیه روزمره: لحظه‌ای که مدل واقعاً جواب تولید می‌کند — مثل خودِ آشپزی، نه دوره‌ی آموزش آشپز — مدل دیگر درگیر تلاش برای سرکوب تکانه‌های داخلی خود نمی‌شود.

گام بعدی شما

  • اگر توسعه‌دهنده NPCهای بازی یا بات‌های برند هستید، سرور FIVE را از طریق pip install five-mcp نصب کنید.
  • برای تست سریع محدودیت‌ها، از رابط کاربری فرم FIVE استفاده کنید.
  • این ابزار را در کلاینت‌های سازگار با MCP مانند Claude Desktop یا Cursor فعال کنید.

اما تأثیر این معماری بر حافظه بلندمدت عامل‌ها هنوز ناشناخته است — به تحلیل ما درباره پنجره‌های متنی مراجعه کنید.

چرا این موضوع مهم است؟

این ابزار با تکیه بر استانداردهای MCP، اعتبار مدیریت شخصیت را از «حدس و گمان» به «مهندسی دقیق» می‌برد. این تغییر برای صنایعی که بر اساس تعاملات انسانی-ماشین (مانند گیمینگ و پشتیبانی تخصصی) بنا شده‌اند، حیاتی است.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.