واژهنامهٔ هوش مصنوعی
توان عملیاتی چیست؟
میزان کاری که یک مدل در واحد زمان انجام میدهد، معمولاً برحسب تعداد توکنهای تولیدشده در هر ثانیه.
معادل انگلیسی
throughput
تعریف مرجع (انگلیسی)
Auto-flagged during WF-7 localization
واژههای دیگر
زمان تا نخستین توکنtime to first token
فاصلهٔ زمانی میان ارسال پرامپت و تولید نخستین توکن پاسخ توسط مدل، که حس سرعت اولیه در کاربردهای متنی تعاملی را تعیین میکند.
توکنtoken
کوچکترین واحد متن که مدل زبانی پردازش میکند و معمولاً یک واژه، بخشی از واژه یا یک نشانه است.
توکنسازیtokenization
تجزیهٔ متن به واحدهای کوچکتر به نام توکن — واژه، بخشی از واژه یا نویسه — که مدل زبانی آنها را پردازش میکند.
توکن در ثانیهtokens per second
نرخ تولید خروجی یک مدل زبانی که شمار توکنهای متن تولیدشده در هر ثانیه را نشان میدهد و معیاری رایج برای سنجش سرعت پاسخگویی است.
استفاده از ابزارtool use
توانایی مدل هوش مصنوعی برای فراخوانیِ ابزارها، APIها یا سرویسهای بیرونی برای انجام کارها.
نمونهگیری k برترtop-k sampling
روش انتخاب توکن بعدی که گزینهها را به k توکنِ محتملتر محدود میکند و سپس از میان همانها بهصورت تصادفی نمونه میگیرد.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.