وزارت کشور بریتانیا با وجود سوگیری نژادی، تخمین سن با هوش مصنوعی را اجرا می‌کند

تصور کنید ۱۳ ساله‌ای هستید که به دلیل رنگ پوست و استرس سفر، یک الگوریتم شما را ۱۸ ساله تشخیص دهد و شما را به جای پرورشگاه، به بازداشتگاه بزرگسالان بفرستد. این کابوس اکنون برای پناهجویانی است که در مرزهای بریتانیا با تخمین سن چهره (Facial Age Estimation یا FAE) روبرو می‌شوند.

طبق گزارشی که در ۱۸ ژوئن ۲۰۲۶ توسط WIRED، Lighthouse Reports و The Independent منتشر شد، وزارت کشور بریتانیا (UK Home Office) در حال پیش‌روی برای استقرار این فناوری است؛ آن هم در حالی که آزمایش‌های داخلی، خطاهای حیاتی و تغییردهنده زندگی را تایید کرده‌اند.

این اقدام در حالی رخ می‌دهد که دولت‌های جهان به سمت سیاست‌های تهاجمی ضد مهاجرت و نظارت‌های شدید می‌روند. دولت دوم ترامپ و سایر دولت‌های جهان به‌طور فزاینده‌ای میلیاردها دلار را صرف فناوری‌های نظارتی می‌کنند که اغلب علیه افراد آسیب‌پذیری به کار گرفته می‌شود که دانش کمی درباره نحوه عملکرد این سیستم‌ها یا روش‌های به چالش کشیدن آن‌ها دارند. برای خواننده، این یک مثال عیان از «سوگیری اتوماسیون» است؛ جایی که دولت‌ها به یک امتیاز دیجیتال بیشتر از قضاوت انسانی اعتماد می‌کنند، حتی وقتی داده‌ها ثابت می‌کند آن امتیاز اغلب غلط است.

بستر اجرای سیستم تأیید سن

تأیید سن به‌سرعت در حال تسخیر فضای مجازی است. این روند از ممنوعیت‌های شبکه‌های اجتماعی در استرالیا شروع شد و به محدودیت‌های محتوای بزرگسالان در نیمی از ایالت‌های آمریکا رسید. در این محیط‌ها، اثبات سن برای دسترسی به یک وب‌سایت به یک نیاز روزمره تبدیل شده است. فناوری FAE — که شبیه به یک مترجم است که سعی می‌کند از روی چین و چروک‌ها و فرم صورت، زبانِ سن را ترجمه کند — حتی در برخی بارها و فروشگاه‌های بریتانیا نیز برای کنترل سن مشتریان آزمایش شده است.

این سیستم‌ها با تحلیل ویژگی‌های چهره و آموزش روی میلیون‌ها تصویر برچسب‌گذاری‌شده کار می‌کنند. در آزمایش‌های کنترل‌شده آزمایشگاهی، بهترین الگوریتم‌ها می‌توانند سن را با خطای تقریبی ۲.۵ سال پیش‌بینی کنند. اما دولت بریتانیا اکنون این ابزار را به دنیای واقعی کنترل مرزی می‌برد، جایی که ریسک‌ها و پیامدها بسیار فراتر از دسترسی به یک وب‌سایت است.

شکاف سوگیری و اعداد تکان‌دهنده

بر اساس مستندات داخلی از آپریل ۲۰۲۵، وزارت کشور هفت الگوریتم مختلف FAE را روی ۲.۵ میلیون تصویر آزمایش کرد. نتایج هشداردهنده بود:

• سیستم «بهترین عملکرد» در تحلیل چهره‌های آفریقایی جنوب صحرا دچار انحرافات شدید شد.
• برای زنان آفریقایی جنوب صحرا، تخمین هوش مصنوعی به‌طور متوسط ۴.۶ سال خطا داشت.
• این حاشیه خطا یعنی یک دختر ۱۳.۵ ساله می‌تواند به‌طور قانونی یک بزرگسال ۱۸ ساله شناخته شود.
• سیستم تمایل داشت ۱۷ ساله‌ها را به‌طور متوسط بالای ۱۸ سال تشخیص دهد و این عملکرد در زنان بدتر بود.

آفریقایی‌های جنوب صحرا بزرگ‌ترین گروه مهاجرانی هستند که در سال‌های اخیر با قایق‌های کوچک از کانال انگلیسی عبور کرده‌اند. طبق داده‌های وزارت کشور، این گروه در سال ۲۰۲۵ بیش از هر منطقه دیگری تحت ارزیابی سن قرار گرفتند و بنابراین، این گروه بیشترین احتمال آسیب دیدن از این شکست‌های الگوریتمی خاص را دارند.

شکست‌های فنی در میدان عمل

دقت اسکن چهره به شدت به کیفیت تصویر وابسته است، چیزی که در گذرگاه‌های مرزی به‌ندرت یافت می‌شود. گزارش‌های افشا شده اشاره می‌کنند عکس‌های گرفته شده در «اولین مواجهه» (first encounters) معمولاً کیفیت بسیار پایین‌تری نسبت به عکس‌های بعدی همان افراد داشتند.

عواملی که عملکرد سیستم را تخریب می‌کنند:

• نورپردازی و کیفیت: تصاویر بی‌کیفیت و نورپردازی بد عملکرد سیستم را به‌شدت کاهش می‌دهند. برخی سیستم‌ها حتی با تصاویر شخصیت‌های بازی‌های ویدئویی فریب خورده‌اند.
• وضعیت جسمانی: وضعیت بدنی پناهجویان هنگام ورود بر نتایج اثر می‌گذارد. گزارش‌ها نتوانستند دقیقاً تعیین کنند که کیفیت تصویر یا وضعیت جسمانی فرد تأثیر بیشتری بر نتایج داشته است.
• تروما و استرس: گزارش داخلی تأکید می‌کند که «پیر شدن موقت» مربوط به تروما و «استرس سفر» بر دقت تشخیص اثر می‌گذارد.

این یافته‌ها با نتایج سال‌های گذشته مؤسسه ملی استانداردها و فناوری آمریکا (NIST) هم‌سو است که نشان می‌دهد دقت FAE به شدت به نژاد فرد و کیفیت عکس‌های گرفته شده وابسته است.

پیوند با شرکت Cognitec

در می ۲۰۲۶، دولت بریتانیا بیش از ۴۰۰ هزار دلار برای فناوری شرکت آلمانی Cognitec هزینه کرد. اگرچه وزارت کشور نام الگوریتم خاص مورد آزمایش را فاش نکرد، اما تحلیل داده‌های NIST نشان می‌دهد سیستم Cognitec در عکس‌های بی‌کیفیت مرزی، ۱۶ ساله‌ها را دو برابر بیشتر از عکس‌های باکیفیت ویزا، به عنوان بزرگسال شناسایی کرده است.

داده‌های NIST همچنین نابرابری‌های دموگرافیک را فاش کرد: ۱۶ ساله‌های اهل غرب آفریقا بیشتر از ۱۶ ساله‌های اروپای شرقی، بالای ۱۸ سال تشخیص داده شدند. سخنگوی Cognitec مدعی است این تفاوت‌های دموگرافیک در تمام الگوریتم‌های اسکن چهره وجود دارد و اغلب مربوط به مسائل پیچیده کیفیت تصویر است. این شرکت ادعا می‌کند سوگیری آن نسبت به الگوریتم‌های مشابه کمتر است و در حال متنوع کردن داده‌های آموزشی و طراحی توابع هزینه (loss functions) جدید برای کاهش این خطاها است.

ساکت کردن متخصصان

برای تسهیل این استقرار، وزارت کشور کمیته علمی مشاور در مورد تخمین سن را منحل کرد. تیم کول، استاد بازنشسته آمار پزشکی در یونیورسیتی کالج لندن (UCL) در مؤسسه سلامت کودک و عضو سابق کمیته، می‌گوید این کمیته درست زمانی تعطیل شد که آن‌ها داشتند ماهیت «به شدت نادرست» اسکن‌های چهره را برجسته می‌کردند.

کول اشاره کرد که فرصت برجسته کردن ناکارآمدی‌های FAE پیش از انحلال کمیته به آن‌ها داده نشد. سخنگوی وزارت کشور این اقدام را توجیه کرد و مدعی شد که این کمیته به دلیل نیاز به «حوزه‌های تخصصی متفاوتی» منحل شده است.

خطای انسانی در برابر خطای هوش مصنوعی

در حال حاضر، کارکنان مرزی بر اساس یک ارزیابی «اولین مواجهه» شامل ظاهر فیزیکی، پاسخ به سوالات مصاحبه و رفتار کلی تصمیم می‌گیرند. با این حال، بازرس ارشد مستقل مرزها و مهاجرت پیش‌تر این روش‌های انسانی را مشکل‌دار خوانده بود. گزارش‌ها از ثبت سوابق «ضعیف»، ارزیابی‌های بصری «سرسری» و فقدان توضیح درباره فرآیندها خبر دادند.

جالب است که کارکنان ارزیابی سن تا سال ۲۰۲۳ هیچ آموزش تخصصی برای این وظیفه ندیده بودند. آمارها نشان می‌دهد از سال ۲۰۱۰، ۴۰ درصد افرادی که تحت ارزیابی سن قرار گرفته‌اند، بزرگسال شناخته شده‌اند.

وزارت کشور استدلال می‌کند که هوش مصنوعی فقط یک ابزار «کمکی» یا اضافی است تا افسران بتوانند قضاوت خود را بسنجند. آن‌ها ادعا می‌کنند در موارد عدم قطعیت، افراد به عنوان کودک پذیرفته می‌شوند؛ اما استانداردهای عملیاتی دقیق برای این شبکه ایمنی یا نحوه تعامل افسران با تخمین‌های سیستم در محیط‌های واقعی را افشا نکرده‌اند.

پیامدهای یک اشتباه

برای یک کودک، شناسایی اشتباه به عنوان بزرگسال یک نقص فنی نیست، بلکه یک فاجعه قانونی است. بزرگسالان حمایت‌های قانونی ویژه کودکان را از دست می‌دهند و می‌توانند به بازداشتگاه‌های مخصوص بزرگسالان منتقل شوند.

گروه حقوق بشری Foxglove و ۶۱ سازمان دیگر در نامه‌ای باز خواستار توقف این ابزار شدند. مارتا دارک، مدیر اجرایی Foxglove، استدلال کرد کودکانی که تروماهای غیرقابل تصور دیده‌اند نباید «موش آزمایشگاهی» برای فناوری‌های آزمایشی باشند که «ناکارآمدی و سوگیری نژادی در ذات آن‌هاست».

گسترش ارزیابی‌ها و آینده

دولت بریتانیا ابتدا در جولای ۲۰۲۵ برنامه استفاده از FAE را اعلام کرد و سپس استقرار آن را به ۲۰۲۷ موکول نمود. هدف آن‌ها استفاده از این «تکنولوژی پیشرفته» برای «سرکوب ادعاهای جعلی» و متوقف کردن بزرگسالانی است که سعی می‌کنند سیستم را دور بزنند.

آننا باچیارلی از Human Rights Watch هشدار می‌دهد که این فناوری «انسانیت‌زدا» است و ریسک تثبیت شدن در عملیات مرزی را دارد. باچیارلی استدلال می‌کند که ریسک‌ها در هر بخش از این سیستم باعث می‌شود که این پروژه «ارزشی برای دنبال کردن نداشته باشد»، حتی اگر هدف دولت این باشد که بگوید از هوش مصنوعی برای مقابله با مهاجرت استفاده می‌کند.

این چرخش نشان‌دهنده روند گسترده‌تری است که در آن کارایی دولت بر دقت ارزیابی‌های حقوق بشر ترجیح داده می‌شود. این یک سابقه خطرناک است: استقرار هوش مصنوعی «به اندازه کافی خوب» در محیط‌های حساس، جایی که هزینه یک مثبت کاذب (False Positive)، نقض حقوق بشر است.

منتظر «بررسی مستقل» توسط آزمایشگاه فیزیک ملی بریتانیا باشید؛ این بررسی ممکن است فاش کند که آیا دولت برای کاهش حاشیه خطا، یک «سن آستانه» (threshold age) تعریف می‌کند یا خیر (مثلاً سیستم را طوری تنظیم کند که فقط تشخیص دهد آیا فرد زیر ۲۰ سال است یا خیر).

گام بعدی شما

• اگر در حوزه حقوق بشر یا اخلاق هوش مصنوعی فعال هستید، گزارش‌های NIST درباره سوگیری‌های دموگرافیک در تشخیص سن را مطالعه کنید.
• پیگیر «بررسی مستقل» توسط آزمایشگاه فیزیک ملی بریتانیا باشید تا ببینید آیا برای کاهش خطا، «سن آستانه» (مثلاً فقط تشخیص زیر ۲۰ سالگی) تعریف می‌کنند یا خیر.
• مدل‌های تشخیص چهره را در محیط‌های با کیفیت پایین تست کنید تا متوجه شوید چرا نورپردازی بر خروجی مدل اثر می‌گذارد.

اما داستان سخت‌افزاری این نظارت‌ها حتی پیچیده‌تر است — به تحلیل ما درباره‌ی تراشه‌های پردازش لبه در سیستم‌های امنیتی مراجعه کنید.