یک چارچوب نوآورانه به نام BID-LoRA (تطبیق کم‌رتبه دوسویه) برای مقابله با یکی از چالش‌برانگیزترین مسائل یادگیری ماشین عرضه شده است: توانمندسازی شبکه‌های عصبی برای یادگیری مداوم و در عین حال فراموشی گزینشی اطلاعات. این نوآوری خلأ مهمی را در سیستم‌های هوش مصنوعی کنونی پر می‌کند که اغلب در تطبیق با دانش جدید بدون تضعیف توانایی‌های پیشین ناتوان هستند.
تیم پژوهشی پارادایم تازه‌ای به نام «یادگیری-فراموشی مداوم» (CLU) را تعریف کرده‌اند که سه هدف بنیادین را دنبال می‌کند: حذف دقیق دانش نامطلوب، ادغام کارآمد اطلاعات جدید با حفظ یادگیری‌های پیشین، و به حداقل رساندن نشت دانش در طول چرخه‌های تطبیق. مشکل اصلی این است که رویکردهای موجود برای ترکیب یادگیری مداوم و فراموشی ماشینی معمولاً به تخریب تدریجی دانش پایه منجر می‌شوند.
BID-LoRA با معماری تازه‌ای متمایز می‌شود که دارای سه مسیر آداپتور اختصاصی در لایه‌های توجه است: مسیر حفظ، مسیر جدید، و مسیر فراموشی. این چارچوب از تکنیک نوآورانه «فراموشی گریزان» بهره می‌برد که تعبیه‌های کلاس فراموشی را به موقعیت‌هایی دورترین از دانش حفظ‌شده هُل می‌دهد و جداسازی تمیزی میان اطلاعات حفظ‌شده و حذف‌شده تضمین می‌کند. نکته قابل توجه اینکه این کار تنها با به‌روزرسانی ۵٪ پارامترهای مدل انجام می‌شود که آن را از نظر محاسباتی کارآمد ساخته است.
نتایج تجربی روی مجموعه داده CIFAR-100 نشان داد BID-LoRA به‌طور چشمگیری از خطوط پایه CLU موجود در چندین چرخه تطبیق بهتر عمل می‌کند. پژوهشگران همچنین رویکرد خود را روی CASIA-Face100، مجموعه داده ویژه شناسایی چهره، اعتبارسنجی کردند و کاربردهای عملی آن را برای سیستم‌های مدیریت هویت واقعی نشان دادند؛ جایی که کاربران باید به‌صورت یکپارچه ثبت و حذف شوند.
این پژوهش گامی بلند به سوی سیستم‌های هوش مصنوعی است که می‌توانند با نیازهای متغیر تطبیق یابند و در عین حال حریم خصوصی و نیازهای حفاظت از داده را محترم بشمارند. BID-LoRA با پرداختن همزمان به یادگیری و فراموشی در چارچوبی یکپارچه، امکان‌های تازه‌ای برای استقرار سیستم‌های یادگیری ماشین انعطاف‌پذیر و حریم‌خصوصی‌محور در محیط‌های تولیدی می‌گشاید.
گفتگو