تصور کنید خصوصی‌ترین لحظات زندگی شما، تنها یک داده‌ی آموزشی برای مدل‌های هوش مصنوعی باشد. این کابوس اکنون برای ۱۱۰۸ کارمند در کنیا به واقعیت تبدیل شده است.
متا (Meta) در ۳۰ آوریل ۲۰۲۶ قرارداد خود با شرکت Sama، پیمانکار برچسب‌گذاری داده‌ها در کنیا را فسخ کرد. این تصمیم منجر به اخراج گسترده‌ی ۱۱۰۸ کارمند شد.
این بحران زمانی آغاز شد که روزنامه‌های سوئدی Svenska Dagbladet و Goteborgs-Posten گزارش‌هایی از افشای حریم خصوصی منتشر کردند. به گزارش BBC، تحلیلگران انسانی در شرکت Sama مجبور بودند ویدئوهای ضبط‌شده توسط عینک‌های هوشمند متا را بررسی کنند. این ویدئوها شامل موارد تکان‌دهنده‌ای بود:
- تصاویر از محیط‌های خصوصی مانند اتاق خواب.
- ضبط لحظات برهنگی کاربران.
- بررسی محتوای بصری برای آموزش هوش مصنوعی زاینده (Generative AI) در تفسیر تصاویر و بررسی دقت متن‌های تولیدشده.
همان‌طور که در پوشش پیشین ما از چالش‌های مدل‌های چندوجهی (Multimodal) دیدیم، تکیه بر نظارت انسانی در مقیاس بزرگ همواره ریسک‌های امنیتی و اخلاقی را افزایش می‌دهد.
در مورد دلیل این جدایی، منابع اختلاف نظر دارند: طبق اعلام متا، شرکت Sama استانداردهای عملیاتی را رعایت نکرده است. اما در مقابل، Sama این ادعا را رد کرده و می‌گوید هرگز از عدم رعایت استانداردهای امنیتی مطلع نشده است. به باور Naftali Wambalo از جنبش کارگران تکنولوژی آفریقا، این اخراج‌ها در واقع تلاشی برای تحمیل «استانداردهای سری» پس از افشای تخلفات حریم خصوصی است.
اکنون رگولاتورها وارد میدان شده‌اند:
- دفتر کمیسر اطلاعات بریتانیا (ICO) این گزارش‌ها را «نگران‌کننده» خوانده است.
- کمیساری حفاظت از داده‌ها در کنیا تحقیقات رسمی خود را آغاز کرده است.
این تنها آغاز ماجراست؛ اثر موج‌گونه‌ی این تصمیم بر اکوسیستم داده‌های آموزشی را در گزارش بعدی بررسی خواهیم کرد.
گام بعدی شما
- بررسی تنظیمات حریم خصوصی در گجت‌های پوشیدنی هوشمند.
- دنبال کردن نتایج تحقیقات ICO بریتانیا برای درک استانداردهای جدید.
- مطالعه در مورد جایگزین‌های مدل‌های نظارت انسانی در خط لوله‌های داده.
گفتگو