واژهنامهٔ هوش مصنوعی
تزریق پرامپت چیست؟
حملهای که در آن دستورهای پنهان در ورودی یا دادههای بیرونی، مدل زبانی را وادار میکند از دستورهای اصلیِ سازنده سرپیچی کند.
معادل انگلیسی
prompt injection
تعریف مرجع (انگلیسی)
Auto-flagged during WF-7 localization
واژههای دیگر
افشای پرامپتprompt leaking
آشکارشدنِ ناخواستهٔ دستورالعملهای پنهان یا پرامپت سیستمیِ یک مدل، که اغلب از راه ورودیهای فریبندهٔ کاربر رخ میدهد.
قالب پرامپتprompt template
ساختاری از پیشآماده با جاهای خالی که دادههای متغیر در آنها قرار میگیرد تا پرامپتهایی یکدست و تکرارپذیر برای مدل ساخته شود.
تنظیم پرامپتprompt tuning
روشی کارآمد که بهجای تغییر وزنهای مدل، تنها چند بردار ورودی قابلآموزش را بهینه میکند تا مدل ثابت برای کاری مشخص سازگار شود.
هرس کردنpruning
حذف وزنها یا اتصالهای کماهمیتِ یک شبکهٔ عصبی برای کوچکتر و سریعتر کردن مدل با کمترین افت کارایی.
انطباق کمرتبهٔ کوانتیده (QLoRA)qlora
گونهای از LoRA که مدل پایه را بهصورت فشرده و کمدقت نگه میدارد تا بتوان مدلهای بزرگ را روی یک کارت گرافیک منفرد تنظیم کرد.
[Quantization]quantization
کاهش دقت مقادیر عددی در وزنها و فعالسازیهای یک مدل یادگیری ماشین برای کوچکتر شدن حجم و تسریع پردازش، مانند جایگزینی اعداد اعشاری با اعداد صحیح کوتاهتر.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.