
LLaVA-CKD: کاهش شکاف ظرفیت در مدلهای بینایی-زبانی از طریق تقطیر متوالی
چارچوب LLaVA-CKD با معرفی ساختار آموزشی پلهای، مشکل افت کیفیت در انتقال دانش از مدلهای غولپیکر به مدلهای کوچک را حل کرده است. این روش با استفاده از معلمان میانی، امکان استقرار…










