لاما‌سی‌پلاس‌پلاس (llama.cpp) چیست؟

به‌کارگیری یک مدل زبانی بزرگ برای ارزیابی و امتیازدهی به خروجی مدل‌های دیگر، به‌عنوان جایگزینی مقیاس‌پذیر برای داوری انسانی.

خروجی خام و عددیِ مدل پیش از تبدیل به احتمال، که امتیاز هر توکن ممکن برای جایگاه بعدی را نشان می‌دهد.

روشی برای تنظیم کارآمدِ مدل که به‌جای تغییر همهٔ وزن‌ها، تنها چند ماتریس کوچک افزوده را آموزش می‌دهد تا هزینه و حافظه کاهش یابد.

تابعی که فاصلهٔ میان پیش‌بینی مدل و پاسخ درست را به عددی واحد تبدیل می‌کند تا آموزش بکوشد آن را کمینه کند.

معیاری پرکاربرد در تشخیص اشیا و بازیابی که دقت مدل را در چند سطح بازخوانی و چند دسته میانگین می‌گیرد تا یک عدد کلی به‌دست دهد.

معیاری برای مدل‌های رگرسیون که میانگین مجذور اختلاف میان مقادیر پیش‌بینی‌شده و مقادیر واقعی را اندازه می‌گیرد و خطاهای بزرگ را شدیدتر جریمه می‌کند.