تصور کنید متخصصی را استخدام میکنید که در یک زمینه خاص نابغه است، اما ناگهان یاد میگیرد چطور یک فرم اداری پیچیده را پر کند و در عوض، توانایی صحبت کردن به زبان ساده را فراموش میکند. این دقیقاً همان اتفاقی است که در دنیای مدلهای زبانی رخ میدهد.
وقتی یک مدل زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — را روی دادههای تخصصی تنظیم دقیق (Fine-tuning) میکنید (یعنی مثل وقتی که به یک پزشک عمومی، تخصص پوست میدهیم تا روی یک حوزه دقیق شود)، با خطر فراموشی فاجعهبار (Catastrophic Forgetting) روبرو میشوید. این پدیده یادآور تحقیقات دانشگاه UIUC است که نشان داد تلههای بازنویسی سوابق چگونه میتواند منجر به افت شدید عملکرد عاملهای هوشمند شود. طبق گزارشهای منتشرشده تا ۱۱ جولای ۲۰۲۶، مدلهای تولیدی متعددی در محیط عملیاتی دیده شدهاند که اصطلاحات فنی را بهدرستی به کار میبرند اما در simplest ترین گفتگوهای روزمره یا استدلالهای چندمرحلهای شکست میخورند.
همانطور که در تحلیل قبلی ما دربارهی میزبانی شخصی با اولاما (Ollama) اشاره کردیم، چالش اصلی اکنون از مرحله استقرار به مرحله نگهداری تغییر کرده است. وقتی مدلی را برای یک کاربرد خاص — مثلاً بات پرسشوپاسخ اسناد تطبیق قوانین — آموزش میدهید، ریسک پاک شدن همان پایههایی وجود دارد که مدل را در ابتدا کاربردی میکرد.
به نقل از گزارش AI Tech Connect، این تخریب کیفیت معمولاً در سه شکل ظاهر میشود:
- طبقهبندیکنندههای تیکت پشتیبانی که توانایی پیروی از دستورات را از دست میدهند.
- دستیارهای زبانی که در زبانهای منطقهای مثل تامیلی مسلط میشوند اما منطق زبان انگلیسی را فراموش میکنند.
- مدلهای انطباق که اصطلاحات FCA را میشناسند اما نمیتوانند یک گفتگوی عادی داشته باشند.
برای مقابله با این مشکل، این راهنما استفاده از تنظیم کارآمد با پارامتر اندک (PEFT) را توصیه میکند. در این روش، بهجای بهروزرسانی تمام وزنها (Weights)، تغییرات تنها به بخش کوچکی از پارامترها محدود میشود. این مکانیزم مانند یک حفاظ برای پایگاه دانش اصلی مدل عمل میکند تا یادگیری تخصصی، هوش عمومی مدل پایه را بازنویسی نکند.
برای توسعهدهندگان، این بدان معناست که موازنهی بین تخصص و جامعیت دیگر یک انتخاب صفر و یکی نیست. با پذیرش PEFT، میتوان مدلهای تکدامنه را بدون آسیبهای پنهانی که معمولاً پروژههای تنظیم دقیق را در محیط عملیاتی فلج میکند، مستقر کرد.
گام بعدی شما
- یک مجموعه ارزیابی پایه (Baseline Evaluation) برای وظایف عمومی تعریف کنید تا در کنار بنچمارکهای تخصصی اجرا شود.
- نرخ فراموشی مدل را در لحظه (Real-time) پیش از استقرار نهایی رصد کنید.
- متدهای کاهش رتبه مانند LoRA را برای مدیریت بهینهتر پارامترها بررسی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو