گراف دانش چیست؟

حافظه‌ای در مدل‌های زبانی بزرگ که برای ذخیره نتایج میانی محاسبات لایه‌های توجه (kv cache) در هنگام تولید متن به‌صورت ترتیبی به کار می‌رود و از محاسبات تکراری جلوگیری می‌کند.

پاسخ یا مقدار درستی که در یادگیری نظارت‌شده به هر نمونه‌ی آموزشی نسبت داده می‌شود تا مدل آن را هدفِ پیش‌بینی قرار دهد.

یک مدل بنیادی که روی حجم عظیمی از داده‌های متنی آموزش دیده تا زبان را بفهمد و تولید کند.

فاصلهٔ زمانی میان فرستادن درخواست به مدل و دریافت پاسخ، که در سرویس‌های بی‌درنگ اهمیت زیادی دارد.

فضای عددیِ فشرده‌ای که مدل ویژگی‌های پنهان داده را در آن نگه می‌دارد، به‌گونه‌ای که نمونه‌های شبیه به هم در آن نزدیک یکدیگر قرار می‌گیرند.

ابرپارامتری که اندازهٔ هر گام به‌روزرسانی وزن‌ها را تعیین می‌کند؛ مقدار بسیار بزرگ آموزش را ناپایدار و مقدار بسیار کوچک آن را کند می‌کند.