واژهنامهٔ هوش مصنوعی
تنظیم کارآمد با پارامتر اندک (PEFT) چیست؟
خانوادهای از روشها که فقط بخش کوچکی از پارامترهای یک مدل بزرگ را آموزش میدهد تا هزینهٔ سازگارکردن آن بهشدت کاهش یابد.
واژههای دیگر
[perplexity]perplexity
معیاری که نشان میدهد یک مدلِ زبانی در پیشبینیِ کلمهٔ بعدی چقدر سرگشته است؛ هرچه مقدارش کمتر باشد، مدل با قطعیتِ بیشتری پیشبینی میکند و کیفیتِ بهتری دارد.
رمزگذاری موقعیتpositional encoding
افزودن اطلاعاتِ جایگاهِ هر توکن به ورودی ترنسفورمر، تا مدل ترتیب واژهها را تشخیص دهد چون توجه بهخودیِخود ترتیب را نمیفهمد.
بهینهسازی سیاست تقریبی (PPO)ppo
الگوریتمی در یادگیری تقویتی که سیاست مدل را گامبهگام و محتاطانه بهروز میکند تا تغییرات بزرگ و بیثباتکننده رخ ندهد.
[Precision]precision
میزان درستی پیشبینیهای مثبت یک مدل؛ یعنی نسبت موارد واقعاً مثبت به مجموع موارد پیشبینیشده بهعنوان مثبت (precision).
دادهٔ ترجیحیpreference data
دادهای که در آن برای هر ورودی چند پاسخ مقایسه و مشخص شده کدام بهتر است، تا مدل را بهسوی پاسخهای مطلوب انسان سوق دهد.
پیشپُرکردنprefill
مرحلهٔ نخستِ تولید پاسخ در مدلهای زبانی که در آن کل پرامپت ورودی یکجا پردازش میشود تا تولید توکنهای بعدی آغاز شود.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.