تصور کنید رباتی که برای پشتیبانی انگلیسی طراحی کردهاید، ناگهان با کاربران شما به زبان چینی صحبت کند. این کابوس در ۲۶ آوریل ۲۰۲۶ برای یک توسعهدهنده به واقعیت تبدیل شد و لایههای پنهان ریسک در مدلهای زبانی را آشکار کرد.
به نقل از گزارش سایت dev.to، ربات popashot-g که بر پایه مدل MiniMax 2.7 اجرا میشد، در یک کانال کاملاً انگلیسی، ناگهان پاسخهایی به زبان چینی داد. با وجود اینکه تمام پیامها و دستورات سیستم به زبان انگلیسی بود، مدل در میانه گفتگو دچار تغییر زبان شد.
این پدیده که به آن لغزش زبانی (Language Drift) میگویند، زمانی رخ میدهد که مدل به «پیشفرض آماری» زبان غالب در دادههای آموزشی خود بازمیگردد. در مورد MiniMax که یک آزمایشگاه هوش مصنوعی چینی است، حجم عظیم دادههای چینی باعث ایجاد یک کشش قوی به سمت این زبان میشود.
عواملی که این لغزش را تحریک میکنند عبارتند از:
- پرامپتهای ضعیف: دستوراتی که مرزهای زبانی را به اندازه کافی سخت نمیکنند.
- دمای پایین (Temperature): تنظیماتی که باعث میشود مدل به جای خلاقیت، به محتملترین توکنهای آماری (که در اینجا چینی هستند) روی آورد.
- لایههای استنتاج (Inference) ارزانقیمت: در نسخههای اقتصادی، بودجههای مربوط به همراستاسازی (Alignment) و ایمنی کاهش مییابد.
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، وابستگی به مدلهای خارجی همیشه ریسکهای پیشبینینشدهای دارد که فراتر از مستندات فنی است. اگرچه مدلهای OpenAI نیز گاهی به زبانهای کرهای یا ژاپنی تغییر وضعیت میدهند، اما شدت این سوگیری در مدلهای چینی به دلیل توزیع دادهها بسیار بیشتر است.
برای مقابله با این مشکل، تیمهای فنی سه راهکار دارند: سختگیرانهتر کردن مهندسی پرامپت (Prompt Engineering)، افزودن لایههای تشخیص زبان برای بازگرداندن پاسخهای غلط، یا تغییر کامل مدل.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گام بعدی شما
- اگر از مدلهای چندزبانه استفاده میکنید، لایهای برای تشخیص زبان (langdetect) در خروجیها قرار دهید.
- در دستورات سیستم، عبارت «فقط و فقط به زبان X پاسخ بده» را با تأکید تکرار کنید.
- مدلهای ارزانقیمت را در سناریوهای حساس کاربر-محور تست کنید تا نرخ لغزش زبانی آنها را بسنجید.
گفتگو