تصور کنید نژاد یا جنسیت شما، تعیینکنندهی دقت تشخیص بیماریتان توسط هوش مصنوعی باشد. این کابوس اکنون با ظهور FairEnc در حال تبدیل شدن به خاطرهای دور است.
به نقل از مستندات منتشر شده در arxiv.org در ۷ مه ۲۰۲۶، این چارچوب جدید ثابت میکند که میتوان بدون کاهش دقت تشخیص، عدالت اجتماعی را در مدلهای پزشکی برقرار کرد. طبق گزارش پژوهشگران، FairEnc یک مدل چندوجهی (Multimodal) است که بهطور همزمان سوگیریها را در هر دو بخش متن و تصویر هدف قرار میدهد تا نتایج بالینی دیگر تحت تأثیر ویژگیهای دموگرافیک بیمار نباشد.
برای دستیابی به این هدف، تیم توسعه دو استراتژی کلیدی را پیاده کرده است:
- رمزگذار متنی (Textual Encoder): این سیستم از یک مدل زبانی بزرگ (Large Language Model) برای تولید توصیفات بالینی مصنوعی استفاده میکند. این یادداشتها ویژگیهای حساس (مانند نژاد) را تغییر میدهند اما معنای بیماری را حفظ میکنند تا نمایشهای مستقل از دموگرافی ایجاد شود.
- رمزگذار بصری (Visual Encoder): در این بخش از یک استراتژی عدالت دوسطحی استفاده شده است. این روش ترکیبی از منظمسازی اطلاعات متقابل برای کاهش وابستگی آماری و یادگیری تقابلی (Adversarial Debiasing) است تا مدل نتواند نژاد بیمار را از روی تصویر تشخیص دهد.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت و اخلاق در مدلهای بنیادی (Foundation Models) اشاره کردیم، حذف سوگیریهای پنهان در دادهها سختترین چالش پیش روی AI است. FairEnc با استفاده از مجموعهدادههای Harvard-FairVLMed و FairFundus ثابت کرد که میتواند تفاوتهای دموگرافیک را در معیارهای DPD و DEOdds بهشدت کاهش دهد.
این پیشرفت، ضربهای سخت به یکی از بزرگترین نقاط ضعف AI در پزشکی است: تمایل مدلها به عملکرد ضعیفتر روی گروههای حاشیهنشین. اکنون ثابت شده است که عدالت در AI نیازی به قربانی کردن دقت ندارد.
اما چالش بعدی، پیادهسازی این مدلها در زیرساختهای بهداشتی کشورهای در حال توسعه است — به بررسی ما دربارهی هوش مصنوعی حاکمیتی (Sovereign AI) مراجعه کنید.
گام بعدی شما
- اگر توسعهدهنده مدلهای پزشکی هستید، متدولوژی تولید دادههای مصنوعی FairEnc را برای حذف سوگیری در مجموعهدادههای خود بررسی کنید.
- مقاله کامل این پژوهش در arxiv.org را برای درک جزئیات ریاضی یادگیری تقابلی مطالعه کنید.
- بر روی معیارهای DPD و DEOdds برای ارزیابی عدالت در مدلهای خود تمرکز کنید.
گفتگو