واژهنامهٔ هوش مصنوعی
تأخیر چیست؟
فاصلهٔ زمانی میان فرستادن درخواست به مدل و دریافت پاسخ، که در سرویسهای بیدرنگ اهمیت زیادی دارد.
واژههای دیگر
فضای نهانlatent space
فضای عددیِ فشردهای که مدل ویژگیهای پنهان داده را در آن نگه میدارد، بهگونهای که نمونههای شبیه به هم در آن نزدیک یکدیگر قرار میگیرند.
نرخ یادگیریlearning rate
ابرپارامتری که اندازهٔ هر گام بهروزرسانی وزنها را تعیین میکند؛ مقدار بسیار بزرگ آموزش را ناپایدار و مقدار بسیار کوچک آن را کند میکند.
لاماسیپلاسپلاس (llama.cpp)llama.cpp
یک کتابخانهٔ متنباز نوشتهشده به ++C برای اجرای محلی مدلهای زبانی روی پردازندهٔ معمولی، بدون نیاز به کارت گرافیک قدرتمند.
مدل زبانی بهمثابه داورllm-as-a-judge
بهکارگیری یک مدل زبانی بزرگ برای ارزیابی و امتیازدهی به خروجی مدلهای دیگر، بهعنوان جایگزینی مقیاسپذیر برای داوری انسانی.
لاجیتهاlogits
خروجی خام و عددیِ مدل پیش از تبدیل به احتمال، که امتیاز هر توکن ممکن برای جایگاه بعدی را نشان میدهد.
لورا (LoRA)lora
روشی برای تنظیم کارآمدِ مدل که بهجای تغییر همهٔ وزنها، تنها چند ماتریس کوچک افزوده را آموزش میدهد تا هزینه و حافظه کاهش یابد.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.