تقلیل دانش متقاطع: راهکار مقابله با کمبود شدید داده در هوش مصنوعی فضایی

تصور کنید یک ربات کاوشگر روی مریخ قرار دارد اما برای تشخیص یک سنگ خاص، هیچ عکس نمونه‌ای با برچسب «صحیح» در حافظه‌اش ندارد. در چنین شرایطی، هوش مصنوعی باید یاد بگیرد از روی داده‌های یک ماهواره در مدار، بفهمد روی زمین چه می‌گذرد.

طبق گزارشی که در ۲۶ سپتامبر ۲۰۲۶ در dev.to منتشر شد، یک مدل «شاگرد» می‌تواند تنها با ۳٪ از پارامترهای مدل «استاد»، به ۸۷٪ تطابق در طبقه‌بندی مواد معدنی برسد. این یافته نقشه‌ای برای استقرار هوش مصنوعی خودمختار در محیط‌هایی ارائه می‌دهد که داده‌های برچسب‌دار در آن‌ها تقریباً صفر است.

کاوش‌های سیاره‌ای در رژیم «کمبود شدید داده» عمل می‌کنند. برخلاف بینایی ماشین روی زمین که میلیون‌ها تصویر برچسب‌دار در دسترس است، یک کاوشگر مریخی ممکن است تنها چند ده طبقه‌بندی مرجع (Ground-truth) از سنگ‌ها داشته باشد. این کمبود ساختاری است؛ پهنای باند محدود کاوشگر Perseverance انتقال داده‌ها را به ۲ تا ۴ مگابیت بر ثانیه محدود می‌کند و تأخیر زمانی سیگنال یک‌طرفه به مریخ — که بین ۳ تا ۲۲ دقیقه متغیر است — برچسب‌گذاری انسانی به‌لحظه را غیرممکن می‌سازد. این محدودیت‌های ارتباطی باعث شده تا راهکارهای بهینه‌سازی ترافیک داده، مانند رویکرد SFRL برای کاهش ۷۳ درصدی ترافیک ارتباطی، برای بقای مأموریت‌های فضایی حیاتی شوند.

رژیم بی‌رحم داده در فضا

فراتر از پهنای باند و تأخیر، عوامل دیگری نیز به این بحران داده دامن می‌زنند. به‌دست آوردن ترکیب مواد معدنی مرجع به‌شدت گران است. این کار یا نیازمند مأموریت‌های بازگشت نمونه است که چرخه بازگشت آن‌ها دهه‌ها زمان می‌برد، یا استفاده از ابزارهای درجا (In-situ) مانند ChemCam و PIXL که بسیار کند هستند و توان مصرفی بالایی دارند.

علاوه بر این، یک «تغییر دامنه» (Domain Shift) قابل توجه وجود دارد. داده‌های آموزشی زمینی حاصل از بررسی‌های زمین‌شناسی روی زمین، به دلیل تفاوت در نورپردازی، پراکندگی جوی، پوشش گرد و غبار و فرآیندهای هوازدگی، با شرایط مریخ متفاوت است. این موضوع باعث می‌شود یادگیری انتقالی (Transfer Learning) ساده از مجموعه‌داده‌های زمینی ناکافی باشد.

برای حل این مشکل، پژوهشگران به تقلیل دانش متقاطع (Cross-Modal Knowledge Distillation یا CMKD) روی آورده‌اند. در این سازوکار، یک مودالیته غنی از داده — مانند داده‌های طیفی مداری ابزار CRISM (طیف‌سنج تصویربرداری شناسایی فشرده برای مریخ) یا مجموعه‌داده‌های مشابه زمینی از ایسلند، قطب جنوب و صحرای آتاکاما در شیلی — به یک مدل شاگرد آموزش می‌دهد که روی مودالیته‌ای فقیر، مانند تصاویر RGB کاوشگر، عمل کند. این نوع تحلیل‌های طیفی پیشرفته یادآور دستاورد مدل MAPL-EMIT گوگل در شناسایی هزاران منبع نشت متان است که قدرت تحلیل داده‌های مداری را به رخ می‌کشد.

سازوکار فنی CMKD

در تقلیل دانش (Distillation) کلاسیک، همان‌طور که توسط هینتون و همکاران (۲۰۱۵) پیشنهاد شد، توزیع احتمالات نرم (Soft Probability Distributions) بین یک مدل بزرگ (استاد) و یک مدل کوچک (شاگرد) مطابقت داده می‌شود. در نسخه متقاطع، استاد و شاگرد ورودی‌های متفاوتی می‌گیرند اما آموزش می‌بینند تا نمایش‌های همراستا یا پیش‌بینی‌های سازگار تولید کنند.

• مقیاس‌بندی دما (Temperature Scaling): از یک فاکتور دما (T) برای نرم کردن توزیع احتمالات استاد استفاده می‌شود. حذف فاکتور اصلاحی (T²) در طول آموزش می‌تواند باعث انفجار بزرگی گرادیان‌ها در زمان بالا بودن T شود.
• واگرایی KL: سامانه تلاش می‌کند واگرایی کولبک-لایبلر بین توزیع‌های نرم‌شده استاد و شاگرد را به حداقل برساند. این مورد اغلب به صورت یک CrossModalDistillationLoss پیاده‌سازی می‌شود که زیان تقلیل را با استفاده از یک فاکتور وزنی (آلفا)، با زیان استاندارد Cross-Entropy روی نمونه‌های برچسب‌دار متوازن می‌کند.
• نظارت نرم (Soft Supervision): استاد سیگنالی ظریف‌تر و آموزنده‌تر از یک برچسب «سخت» (صفر و یک) ارائه می‌دهد که در زمان وجود تنها چند نمونه برچسب‌دار، حیاتی است.
• ماسکینگ اطمینان: برای تضمین کیفیت، تقلیل دانش می‌تواند به نمونه‌هایی محدود شود که استاد در مورد آن‌ها اطمینان بالایی دارد تا از یادگیری نویز توسط شاگرد جلوگیری شود.

پر کردن شکاف مودالیته‌ها

یک مانع بزرگ این است که امضاهای طیفی (شامل صدها باند طیفی باریک) و تصاویر RGB در فضاهای ویژگی بنیاداً متفاوتی قرار دارند. تقلیل ساده‌ی لوجیت‌ها (Logit Distillation) اغلب شکست می‌خورد زیرا مودالیته‌ها بیش از حد متفاوت هستند و پیش‌بینی‌های نرم استاد ممکن است اهداف معناداری برای شاگرد نباشند.

برای حل این مشکل، پیاده‌سازی از یک CrossModalProjector استفاده می‌کند. این هدِ تصویر (Projection Head) هر دو مودالیته را با استفاده از لایه‌های خطی، LayerNorm و توابع فعال‌ساز GELU به یک فضای نهان (Latent Space) مشترک منتقل می‌کند. با استفاده از یک زیان تقابلی به سبک InfoNCE — مشابه روش آموزشی مدل CLIP — مدل تضمین می‌کند که یک شیء فیزیکی واحد که در دو مودالیته مختلف دیده شده، با بردارهای مشابهی نمایش داده شود. این سیگنال بسیار قوی‌تر از جفت‌های تصویر-متن است زیرا هر دو مودالیته دقیقاً یک شیء فیزیکی واحد را توصیف می‌کنند.

مقیاس‌پذیری با یادگیری نیمه‌نظارتی

به دلیل اینکه داده‌های برچسب‌دار کمیاب‌ترین منبع هستند، این چارچوب یک رویکرد نیمه‌نظارتی به سبک Mean-Teacher را ادغام می‌کند. این امر به هوش مصنوعی اجازه می‌دهد تا از جریان‌های عظیم داده‌های بدون برچسب دریافتی از کاوشگرها و ماهواره‌ها بهره ببرد:

• به‌روزرسانی EMA: مدل استاد از طریق میانگین متحرک نمایی (EMA) وزن‌های شاگرد (مثلاً با نرخ زوال ۰.۹۹۹) به‌روز می‌شود تا برچسب‌های کاذب (Pseudo-labels) پایداری فراهم کند.
• منظم‌سازی سازگاری: سامانه برای اطمینان از استواری مدل، از تقویت ضعیف (Weak Augmentation) برای استاد و تقویت شدید (Strong Augmentation) برای شاگرد استفاده می‌کند.
• آموزش خصمانه: برای جلوگیری از اینکه شاگرد صرفاً سوگیری‌های استاد را حفظ کند، یک هدِ تشخیص مودالیته به‌صورت خصمانه با استفاده از لایه Gradient Reversal آموزش می‌بیند. این کار فضای نهان را مجبور می‌کند تا مستقل از مودالیته (Modality-agnostic) باشد.
• همراستاسازی ویژگی‌ها: یک عبارت همراستاسازی متقاطع ضروری است؛ بدون آن، شاگرد ممکن است حتی زمانی که مودالیته‌ها اساساً با هم اختلاف دارند، به پیش‌بینی‌های استاد همگرا (Collapse) شود.

افق‌های آزمایشی: نقشه‌های ویژگی کوانتومی

آزمایش‌هایی در حال انجام است تا از محاسبات کوانتومی برای مدیریت داده‌های طیفی با ابعاد بالا استفاده شود. پژوهشگران با استفاده از PennyLane، مدارات کوانتومی متغیر را به عنوان رمزگذارهای ویژگی آزمایش کردند. انگیزه این است که داده‌های طیفی ذاتاً دارای ابعاد بالایی هستند و نقشه‌های ویژگی کوانتومی می‌توانند این داده‌ها را در تعداد کیوبیت‌های به‌طور نمایی کمتری کدگذاری کنند.

این نقشه‌های ویژگی کوانتومی از کدگذاری دامنه (Amplitude Encoding) امضاهای طیفی و لایه‌های متغیر (گیت‌های RY و RZ به همراه CNOTها) برای تولید جاسازی‌های (Embeddings) غیرخطی استفاده می‌کنند. اگرچه سخت‌افزارهای عصر NISQ فعلاً برای مأموریت‌های پروازی کاربردی نیستند، اما پیچیدگی نمونه‌های تئوریک نشان می‌دهد که جاسازی‌های کوانتومی می‌توانند تعداد نمونه‌های برچسب‌دار مورد نیاز برای طبقه‌بندی را باز هم کاهش دهند.

خط لوله استقرار در مأموریت

طبق راهنمای فنی dev.to، خط لوله استقرار ایده‌آل از چهار فاز مجزا پیروی می‌کند:

۱. فاز زمینی: یک مدل استاد روی آرشیو کامل داده‌های مداری (شامل CRISM و M³ در مأموریت Chandrayaan-1) و سایت‌های مشابه زمینی مانند صحرای آتاکاما آموزش می‌بیند.
۲. تقلیل پیش از پرتاب: استاد به یک مدل شاگرد فشرده تبدیل می‌شود که قادر به اجرا روی پردازنده‌های مقاوم در برابر تابش باشد؛ پردازنده‌هایی که معمولاً با سرعت ۱۰۰ تا ۲۰۰ مگاهرتز و حافظه محدود عمل می‌کنند.
۳. استنتاج روی برد: مدل شاگرد اهداف علمی جذاب را به‌لحظه شناسایی می‌کند تا ابزارهای کندتر و پرمصرف‌تری مانند PIXL یا SHERLOC روی آن‌ها متمرکز شوند.
۴. یادگیری مستمر: کاوشگر از زیان‌های سازگاری خود-نظارتی برای اصلاح مدل هنگام مواجهه با زمین‌های جدید استفاده می‌کند و گهگاه به‌روزرسانی‌هایی از استنتاج مدل استاد در زمین دریافت می‌کند.

غلبه بر چالش‌های پیاده‌سازی

در طول توسعه، چندین مشکل بحرانی شناسایی و حل شد:

• فروپاشی شکاف مودالیته: با افزودن تشخیص‌دهنده خصمانه مودالیته حل شد تا تضمین شود فضای نهان مشترک صرفاً سوگیری‌ها را حفظ نمی‌کند.
• عدم تطابق کالیبراسیون: نمرات اطمینان استاد اغلب برای مودالیته شاگرد به‌درستی کالیبره نشده بودند. این مشکل با استفاده از مقیاس‌بندی دما روی یک مجموعه اعتبارسنجی کوچک (حتی تنها ۵۰ نمونه) برطرف شد.
• فراموشی فاجعه‌بار: هنگام تنظیم دقیق (Fine-tuning) روی داده‌های جدید مأموریت، مدل کلاس‌های قدیمی را فراموش می‌کرد. این موضوع با استفاده از تثبیت وزن‌های الاستیک (EWC) یا بازپخش (Replay) یک بافر کوچک از نمونه‌های نماینده کاهش یافت.

تحلیل: تغییر پارادایم داده

این رویکرد فرض بنیادی هوش مصنوعی فضایی را از «جمع‌آوری داده‌های بیشتر» به «انتقال دانش موجود» تغییر می‌دهد. با نگاه به مواد معدنی به عنوان یک ساختار فیزیکی ثابت که فقط در مودالیته‌های مختلف متفاوت به نظر می‌رسد، CMKD نیاز به بازگشت گران‌قیمت نمونه‌ها یا برچسب‌گذاری کند درجا را دور می‌زند.

برای حوزه یادگیری ماشین، این موضوع ثابت می‌کند که همراستاسازی نمایش‌ها (Representation Alignment) بسیار حیاتی‌تر از حجم خام داده است، به‌ویژه زمانی که مودالیته‌ها فاصله زیادی با هم دارند. موفقیت این روش در زمین‌شناسی سیاره‌ای، کاربردهای مشابهی را در تصویربرداری پزشکی و تشخیص عیوب صنعتی — جایی که برچسب‌گذاری داده‌ها به‌طور مشابهی گران است — پیش‌بینی می‌کند.

گام‌های بعدی

ظهور مدل‌های بنیادی (Foundation Models) متقاطع را دنبال کنید که روی تمام داده‌های سیاره‌ای موجود از ماه، مریخ و عطارد پیش‌آموزش دیده‌اند و از مدل‌های مشاهده زمین مانند Prithvi و SatMAE الهام گرفته‌اند.

علاوه بر این، ادغام سیستم‌های هوش مصنوعی عامل‌محور (Agentic AI) — جایی که کاوشگرها به‌طور خودمختار استراتژی‌های نمونه‌برداری را بر اساس تخمین‌های عدم قطعیت مدل‌های تقلیل‌یافته برنامه‌ریزی می‌کنند — یک تکامل طبیعی است. برای تضمین اینکه این تصمیمات خودمختار منجر به خطاهای عملیاتی نشوند، ترکیب یادگیری تقویتی و نمادین برای افزایش ایمنی کاوشگرها به عنوان یک لایه حفاظتی ضروری است. تقلیل دانش، عدم قطعیت کالیبره شده‌ای را فراهم می‌کند که یک عامل (Agent) می‌تواند از آن برای تصمیم‌گیری درباره نحوه صرف زمان ابزارهای گران‌قیمت استفاده کند. شما می‌توانید پیاده‌سازی زیان تقابلی و به‌روزرسانی‌های EMA را در PyTorch بررسی کنید تا این تکنیک‌های تقلیل را در پروژه‌های خود با کمبود داده به کار ببرید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک چالش‌های پردازش در محیط‌های تابشی، تحلیل ما درباره تراشه‌های مقاوم در برابر تابش را بخوانید.