تصور کنید با یک تغییر ساده در لحن درخواست خود، مدل هوش مصنوعی را مجبور کنید که به‌جای یک پاسخ کوتاه، تحلیلی جامع، سازمان‌یافته‌تر و دقیق‌تر ارائه دهد. طبق پژوهشی که لی و همکاران در مقاله ۲۰۲۳ خود با عنوان «مدل‌های زبانی بزرگ محرک‌های احساسی را درک کرده و توسط آن‌ها تقویت می‌شوند» منتشر کردند، افزودن عباراتی نظیر «این موضوع برای مسیر شغلی من بسیار حیاتی است» می‌تواند عملکرد مدل را در ده‌ها تسک مختلف به‌طور ملموسی ارتقا دهد.
این رویکرد که مهندسی پرامپت احساسی (Emotion-Prompting) نامیده می‌شود، به‌هیچ‌وجه به معنای داشتن احساسات توسط هوش مصنوعی یا انگیزه دادن به آن از طریق عواطف نیست. در واقع، این تکنیک از یک همبستگی آماری بهره می‌برد: در داده‌های آموزشی انسانی، جملاتی که بر اهمیت بالای یک موضوع تأکید دارند، معمولاً پیش از متون باکیفیت، دقیق و پرجزئیات می‌آیند. برای مثال، ایمیل‌هایی که با برچسب «مهم» علامت‌گذاری شده بودند، با دقت بیشتری نوشته شده بودند و پاراگراف‌هایی که بیان می‌کردند «این موضوع اهمیت دارد»، با دنباله‌هایی جامع و ساختاریافته ادامه می‌یافتند.
به زبان ساده، مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — با دیدن این نشانه‌ها، توزیع احتمالات شرطی خود را به سمت «همسایگیِ» متون انسانی باکیفیت می‌برد. به عبارت دیگر، شما در حال هدایت آماری نمونه‌بردار (Sampler) هستید تا خروجی را از ناحیه متون معمولی به ناحیه متون سطح بالا منتقل کنید، نه اینکه یک روحیه دادن روان‌شناختی به ماشین انجام دهید. این تلاش برای خروج از پاسخ‌های پیش‌فرض، در واقع پاسخی به چالش همگرایی مدل‌ها به سمت پاسخ‌های خسته‌کننده و میانگین است تا خلاقیت و دقت بیشتری در خروجی‌ها ایجاد شود.
زمینه و دینامیک مدل‌ها
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی تنش میان دستیارهای ابری و نیاز به کنترل محلی اشاره کردیم، این تکنیک نشان می‌دهد که وزن‌های نامرئی یک مدل را می‌توان تنها با تغییرات کلامی ساده دستکاری کرد. برای کسانی که از محیط‌های محلی یا کوپایلت (Copilot) استفاده می‌کنند، درک این محرک‌ها کلیدی‌ترین راه برای استخراج حداکثری کیفیت خروجی بدون نیاز به تعویض مدل یا تغییر تنظیمات فنی است. البته باید توجه داشت که همین حساسیت مدل به تغییرات کلامی، می‌تواند به آسیب‌پذیری در برابر حملات تزریق پرامپت منجر شود، جایی که تغییر در نقش یا لحن می‌تواند کنترل مدل را به دست بگیرد.
جزئیات پیاده‌سازی
لی و همکاران در این پژوهش، محرک‌های احساسی را به سه دسته یا خانواده اصلی تقسیم کردند که هر کدام عملکرد متفاوتی دارند:
- عزت نفس اجتماعی (Social-esteem): این دسته قضاوت دیگران یا جایگاه اجتماعی فرد را هدف قرار می‌دهد. نمونه‌هایی از این دست عبارتند از: «این موضوع برای مسیر شغلی من بسیار حیاتی است» و «دیگران روی این نتیجه حساب کرده‌اند».
- فوریت و مخاطره (Urgency and stakes): این عبارات هزینه اشتباه انجام دادن تسک را بالا می‌برند. نمونه‌هایی مانند: «صحیح بودن این پاسخ واقعاً اهمیت دارد» در این دسته قرار می‌گیرند.
- خود-پایشی (Self-monitoring): این دستورات به مدل می‌گویند که پاسخ خود را بررسی کند و سرعت عملش را کنترل نماید. نمونه‌هایی مانند «آیا مطمئنی این پاسخ نهایی توست؟» و «یک نفس عمیق بکش و مرحله‌به‌مرحله پیش برو» در این گروه هستند.
طبق گزارش پژوهشگران، دسته «خود-پایشی» معمولاً قوی‌ترین نتایج را دارد؛ زیرا عبارت «مرحله‌به‌مرحله» به‌عنوان یک راهنمای استدلالی عمل کرده و با زنجیره تفکر (Chain-of-Thought) — شبیه وقتی شاگرد ریاضی پای تخته بلند بلند فکر می‌کند تا به جواب برسد — هم‌پوشانی دارد. در برخی وظایف تولید محتوا، محققان مشاهده کردند که حتی با ثابت نگه داشتن مدل، تسک و دمای (Temperature) مدل، افزایش دو رقمی در عملکرد نسبی پاسخ‌ها حاصل شده است.
با این حال، این روش یک اکسیر همه‌کاره نیست. این تکنیک برای وظایف باز (Open-ended) که در آن‌ها «تلاش بیشتر» فضای گسترشی دارد، بسیار مؤثر است؛ مواردی مانند نویسندگی، خلاصه‌سازی، ایده‌پردازی، ارائه مشاوره، توضیح مفاهیم یا استدلال‌های ذهنی. اما در وظایف قطعی (Deterministic) — مثل ضرب ۱۷ در ۲۴ که جوابش در هر حال ۴۰۸ است، فارغ از اینکه شغل شما چه باشد — هیچ سودی ندارد. در موارد جستجوی داده‌ها (Lookups)، تبدیل فرمت‌ها یا طبقه‌بندی‌های سخت‌گیرانه بله/خیر، مفهومی به نام «تلاش سخت‌تر» وجود ندارد و محرک احساسی ممکن است صرفاً کلمات زائد اضافه کند یا باعث ایجاد تردیدهای بی مورد و حاشیه‌ای (Hedging) در پاسخ مدل شود.
یک نکته حیاتی این است که از تهدید استفاده نکنید. برخلاف تشویق و خود-پایشی، تهدیدها اثر مثبتی ندارند. عباراتی مثل «اگر اشتباه کنی اخراج می‌شوی» نتایجی شبیه به پرتاب سکه دارند و اغلب منجر به پاسخ‌هایی کوتاه، محتاطانه و دفاعی می‌شوند که هدفشان فرار از سرزنش است و کیفیت آن‌ها از یک پرامپت ساده هم کمتر است.
همچنین، این اثر بسیار شکننده (Brittle) است. یک تغییر جزئی در عبارت‌بندی می‌تواند کل سود حاصل از این تکنیک را پاک کند. مدل‌های مدرنی که تنظیم دستوری (Instruction Tuning) سنگینی دیده‌اند و به‌شدت هم‌راستاسازی شده‌اند، چون به‌صورت پیش‌فرض پاسخ‌های باکیفیت و پرتلاش می‌دهند، فضای کمتری برای بهبود دارند. این یعنی «لَک» یا فضای بازی کمتری نسبت به مدل‌های قدیمی‌تر یا کوچک‌تر وجود دارد و ارتقای اندازه‌گیری شده در آن‌ها اغلب به سمت نویز میل می‌کند.
برای پیاده‌سازی عملی، محرک احساسی را به‌عنوان یک پیچ تنظیم تک‌متغیره ببینید. یک عبارت را انتخاب کنید، آن را روی یک مجموعه داده ارزیابی جداگانه (Held-out evaluation set) بسنجید و تنها در صورتی نگه دارید که معیار شما را به‌طور معناداری فراتر از سطح نویز جابه‌جا کند. سپس برنده را در یک تست رگرسیون تثبیت کنید تا یک به‌روزرسانی مدل نتواند به‌طور مخفیانه این دستاورد را از بین ببرد.
از انباشت چندین محرک در یک پرامپت پرهیز کنید. بازدهی در این حالت به‌سرعت کاهش می‌یابد و یک مقدمه احساسی طولانی و متورم می‌تواند مدل را از تسک اصلی منحرف کند. یک خط دقیق و مشخص، همواره بهتر از توده‌ای از التماس‌های احساسی عمل می‌کند.
در نهایت، هدف این است که مدل را به ناحیه‌ای بهتر از توزیع متنی شناخته‌شده‌اش ببرید. با نگاه به مهندسی پرامپت به‌عنوان یک تمرین آماری، می‌توانید کیفیت خروجی‌های پیچیده را پیش‌بینی‌پذیر کنید. شما در حال هدایت یک توزیع هستید، نه صحبت با کسی که برای شما اهمیت قائل است.
گام بعدی شما
- یکی از عبارات دسته «خود-پایشی» را به پرامپت‌های پیچیده فعلی خود اضافه کنید و تفاوت در سازمان‌دهی پاسخ را بسنجید.
- برای وظایف استدلالی، ترکیب «نفس عمیق» با «گام‌به‌گام» را تست کنید.
- یک لیست از عبارات موفق را برای پروژه‌های خود ثبت کنید تا با به‌روزرسانی مدل‌ها، اثر آن‌ها را بازپیمایی کنید.
اما تأثیر این متدها بر مدل‌های استدلالی جدید که خود دارای مکانیزم تفکر هستند، موضوع بحث‌برانگیزتری است — به تحلیل ما درباره مدل‌های Reasoning مراجعه کنید.
گفتگو