اگر برای زبان‌های کم‌منبع (Low-resource languages) مدل می‌سازید، احتمالاً با شکاف دیدگی مواجه شده‌اید؛ جایی که تکیه بر دو یا سه مدل مشهور، انبوهی از منابع رایگان و باکیفیت در Hugging Face را به حاشیه می‌راند. طبق گفته‌های «نوکا» (Nokka)، متخصص این حوزه، در ۱۱ سپتامبر ۲۰۲۶، کیفیت خروجی در زبان تایلندی بیش از آنکه به انتخاب مدل وابسته باشد، به کیفیت داده‌ها گره خورده است.
برای کسانی که در این مسیر هستند، بزرگ‌ترین چالش یافتن یک خط‌کش مشترک برای اندازه‌گیری پیشرفت است. اکثر توسعه‌دهندگان عملکرد مدل را بر اساس «حس» خود می‌سنجند که منجر به نتایج متناقض و تکرار تلاش‌های بی‌ثمر در جامعه برنامه‌نویسان می‌شود.
نوکا اشاره می‌کند وقتی هوش مصنوعی ترجمه‌های عجیبی تولید می‌کند که هیچ گوینده بومی آن را به کار نمی‌برد، ریشه مشکل معمولاً داده‌های آموزشی است که از انگلیسی ترجمه شده‌اند. به همین دلیل، مجموعه‌داده‌هایی که توسط گویندگان واقعی تایلندی ساخته شده‌اند، بسیار ارزشمندتر از مجموعه‌هایی با تعداد دانلود بالا هستند. برای مدیریت این خطاها، استفاده از ابزارهای تخصصی بازبینی ترجمه می‌تواند به شناسایی دقیق‌تر شکاف‌های معنایی در خروجی مدل‌ها کمک کند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در منشأ داده‌ها کلید اعتماد به خروجی است. برای حل این مشکل، مجموعه‌داده ارزیابی OpenThaiGPT روشی استاندارد برای مقایسه عادلانه مدل‌ها ارائه می‌دهد. این منبع که تحت مجوز Apache 2.0 منتشر شده و توسط گویندگان بومی بازبینی شده است، به پژوهشگران اجازه می‌دهد از حدس و گمان فاصله بگیرند و از یک محک (Benchmark) عینی برای سنجش تسلط زبانی استفاده کنند.
فراتر از ارزیابی‌های پایه، چندین منبع کاربردی وجود دارد که همچنان کمتر از حد لازم استفاده می‌شوند:
- WangchanThaiInstruct: یک مجموعه‌داده برای گفتگوهای چندمرحله‌ای که تحت مجوز CC-BY-SA 4.0 منتشر شده است. این داده‌ها با استفاده از مدل‌های تایلندی متن‌باز و بر اساس داده‌های انسانی تولید شده‌اند. این روش تولید داده‌های مصنوعی (Synthetic Data) — شبیه وقتی که برای آموزش یک ورزشکار، سناریوهای فرضی اما واقع‌گرایانه می‌سازیم تا تمام احتمالات را پوشش دهد — تکنیکی کلیدی برای زبان‌های کم‌منبع است و زمان تنظیم دقیق (Fine-tuning) — مثل وقتی به یک پزشک عمومی، تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — را به‌شدت کاهش می‌دهد. این بهینه‌سازی در زمان آموزش، با رویکردهای جدید در کاهش هزینه‌های استنتاج هم‌سو است که هدفشان افزایش کارایی مدل‌های زبانی بدون افت کیفیت است.
- Typhoon: این آزمایشگاه علاوه بر چت، ابزارهای تخصصی مانند مدل بازشناسی گفتار برای گویش «ایسان» (Isan) را ارائه می‌دهد که در دو نسخهٔ آنی و نسخه‌ی بهینه‌شده برای دقت عرضه شده است. آن‌ها همچنین مدلی برای خواندن اسناد با فرمت‌های خاص تایلندی دارند که مدل‌های خارجی معمولاً در پردازش آن‌ها شکست می‌خورند.
- Typhoon Translation & Medical: مدلی برای ترجمه تایلندی-انگلیسی که کنترل لحن و واژگان را به کاربر می‌دهد و همچنین یک پیش‌نمایش پژوهشی از یک مدل استدلالی کوچک پزشکی را ارائه می‌کند.
این ابزارها بر پایه پژوهش‌های آکادمیک هستند؛ برای مثال مقاله OpenThaiGPT 1.5 (arXiv:2411.07238) فرآیندهای آموزش و محدودیت‌های این مدل‌های تایلند-محور را به‌طور دقیق شرح می‌دهد.
استفاده از این منابع نیازمند دقت است. نوکا چهار نکته کلیدی را یادآور می‌شود:
۱. اریبی (Bias): داده‌های مصنوعی مانند آنچه در WangchanThaiInstruct است، محدودیت‌های تنوع دارند و می‌توانند سوگیری‌های مدل‌های سازنده را منتقل کنند.
۲. مجوزها: توسعه‌دهندگان باید تفاوت مجوز منعطف Apache 2.0 را با CC-BY-SA بدانند که در دومی، آثار مشتق‌شده باید همان مجوز را داشته باشند.
۳. معیارها: مجموعه‌های ارزیابی برای مقایسه پایه مفیدند، اما نباید تنها معیار باشند، زیرا دنیای واقعی متنوع‌تر از هر مجموعه آزمونی است.
۴. دیدگی: تعداد دانلود در Hugging Face معیار فریبنده‌ای است؛ بسیاری از مجموعه‌داده‌های عالی صرفاً به دلیل نبود بازاریابی، بازدید کمی دارند.
گام بعدی شما
- اگر پروژه هوش مصنوعی برای زبان‌های محلی دارید، ابتدا با یک مجموعه ارزیابی شروع کنید تا نقاط ضعف مدل فعلی‌تان را شناسایی کنید.
- پس از شناسایی شکاف، به دنبال داده‌های آموزشی هدفمند بگردید تا دقیقاً همان نقطه شکست را اصلاح کنید.
- مجوزهای CC-BY-SA را در پروژه‌های تجاری به‌دقت بررسی کنید تا با مشکلات حقوقی مواجه نشوید.
اما چالش‌های داده در زبان‌های کم‌منبع تنها نیمی از داستان است؛ اثر مدل‌های استدلالی کوچک بر این اکوسیستم را در گزارش بعدی بررسی خواهیم کرد.
گفتگو