چگونه همگامسازی دلتای پراکنده حجم انتقال داده در آموزش RL را ۹۸٪ کاهش داد؟
کتابخانه TRL متعلق به Hugging Face اکنون از همگامسازی وزنهای دلتا پشتیبانی میکند. این قابلیت با ارسال تنها پارامترهای تغییریافته، نیاز به پهنای باند را به شدت کاهش داده و…