تصور کنید یک پناهجوی ۱۳ ساله باشید و تنها به دلیل اشتباه یک الگوریتم در خواندن چهرهتان، به شما بگویند بزرگسال هستید و حقوق قانونی کودکان را از شما بگیرند. این کابوس برای پناهجویان در بریتانیا در حال تبدیل شدن به واقعیت است، زیرا وزارت کشور بریتانیا (UK Home Office) قصد دارد از سال ۲۰۲۷ استفاده از فناوری تخمین سن چهره (FAE) را آغاز کند.
این تصمیم در حالی رخ میدهد که دولتهای جهان برای کنترل مرزها به فناوریهای نظارتی روی آوردهاند. برای یک کاربر یا فعال حقوق بشر، این فقط یک تغییر سیاست نیست؛ بلکه یک قمار خطرناک است که در آن یک باگ نرمافزاری میتواند کودکی را به بازداشتگاهی برای بزرگسالان بفرستد. همانطور که در تحلیلهای پیشین ما دربارهی سوگیریهای مدلهای بینایی اشاره کردیم، دادههای آموزشی ناقص همیشه منجر به نتایج تبعیضآمیز میشوند. این چالشها در ابعاد گستردهتر، حتی زمانی که هدف شناسایی هویت برای امنیت است، پیچیدگیهای بیشتری دارد؛ چنانکه تغییرات در استانداردهای شناسایی چهره باعث شده تا این فناوری دیگر برای مقابله با برخی تهدیدات جدید هوش مصنوعی کافی نباشد.
به گزارش Wired و Lighthouse Reports، یک گزارش داخلی مربوط به آوریل ۲۰۲۵ فاش میکند که حتی «بهترین» الگوریتم از میان هفت مورد آزمایششده، در تشخیص سن افراد آفریقایی جنوب صحرا بهشدت ناتوان است. بر اساس این مستندات، خطای مدل برای زنان این منطقه بهطور متوسط ۴.۶ سال است. دولت بریتانیا تاکنون بیش از ۴۰۰ هزار دلار برای خرید این فناوری از شرکت آلمانی Cognitec هزینه کرده است. طبق دادههای مؤسسه NIST، سیستم Cognitec در مواجهه با عکسهای بیکیفیت مرزی، دو برابر بیشتر از عکسهای باکیفیت ویزا، نوجوانان ۱۶ ساله را بهاشتباه بزرگسال تشخیص میدهد.
استقرار این سیستم نشاندهنده یک چرخش خطرناک به سمت «سوگیری اتوماسیون» است؛ وضعیتی که در آن مأموران خسته مرزی، امتیاز صادر شده توسط یک هوش مصنوعی ناقص را به قضاوت انسانی خود ترجیح میدهند. دولت بریتانیا با انحلال کمیته علمی که درباره این نقصها هشدار داده بود، سرعت در عملیات و «سرکوب ادعاهای جعلی» را بر حقوق بشر و دقت فنی اولویت داده است. این رویکرد جسورانه در استقرار فناوریهای بیومتریک بدون تدابیر حمایتی کافی، میتواند دولتها و سازمانها را با چالشهای حقوقی شدیدی روبرو کند، مشابه تلههای حقوقی و جریمههای سنگینی که توسعهدهندگان سیستمهای تأیید بیومتریک در برخی مناطق با آن مواجه شدهاند.
گام بعدی شما
- نتایج بررسی مستقل «آزمایشگاه فیزیک ملی» (National Physical Laboratory) را دنبال کنید تا ببینید آیا محدوده خطای پذیرفتهشدهای برای این مدل تعریف میشود یا خیر.
- اگر در حوزهی اخلاق در هوش مصنوعی فعال هستید، مستندات NIST درباره نرخ خطای مدلهای شناسایی چهره را مطالعه کنید.
- اثرات گستردهتر این رویکرد بر استاندارد نظارتهای مرزی در اروپا را زیر نظر بگیرید.
این تنها آغاز ماجراست؛ اثر موجگونهی پذیرش مدلهای ناقص در سیستمهای قضایی را در گزارشهای بعدی بررسی خواهیم کرد.
گفتگو