مهندسی پرامپت چیست؟

حمله‌ای که در آن دستورهای پنهان در ورودی یا داده‌های بیرونی، مدل زبانی را وادار می‌کند از دستورهای اصلیِ سازنده سرپیچی کند.

آشکارشدنِ ناخواستهٔ دستورالعمل‌های پنهان یا پرامپت سیستمیِ یک مدل، که اغلب از راه ورودی‌های فریبندهٔ کاربر رخ می‌دهد.

ساختاری از پیش‌آماده با جاهای خالی که داده‌های متغیر در آن‌ها قرار می‌گیرد تا پرامپت‌هایی یکدست و تکرارپذیر برای مدل ساخته شود.

روشی کارآمد که به‌جای تغییر وزن‌های مدل، تنها چند بردار ورودی قابل‌آموزش را بهینه می‌کند تا مدل ثابت برای کاری مشخص سازگار شود.

حذف وزن‌ها یا اتصال‌های کم‌اهمیتِ یک شبکهٔ عصبی برای کوچک‌تر و سریع‌تر کردن مدل با کمترین افت کارایی.

گونه‌ای از LoRA که مدل پایه را به‌صورت فشرده و کم‌دقت نگه می‌دارد تا بتوان مدل‌های بزرگ را روی یک کارت گرافیک منفرد تنظیم کرد.