سوءاستفاده از پاداش چیست؟

مدلی که آموزش دیده تا کیفیت پاسخ‌های یک مدل دیگر را بر اساس ترجیحات انسانی امتیازدهی کند و این امتیاز راهنمای آموزش بعدی شود.

روشی که به‌جای داوران انسانی، از یک مدل هوش مصنوعی برای امتیازدهی به پاسخ‌ها استفاده می‌کند تا فرایند همسوسازی ارزان‌تر و مقیاس‌پذیرتر شود.

روش یادگیری تقویتی با بازخورد انسانی (RLHF): آموزش مدل‌های زبانی که در آن پاداش‌ها از قضاوت‌های مستقیم انسان به‌جای قوانین از پیش تعریف‌شده مشتق می‌شوند.

نموداری که برای یک دسته‌بند، نرخ مثبت درست را در برابر نرخ مثبت کاذب در آستانه‌های تصمیم‌گیری گوناگون نشان می‌دهد.

مجموعه‌ای از معیارها برای ارزیابی خلاصه‌سازی متن که میزان همپوشانی خلاصه تولیدشده را با خلاصه مرجع انسانی اندازه می‌گیرد.

روابط تجربی میان اندازهٔ مدل، حجم داده، محاسبات و کاراییِ نهایی.