اگر امروز در ایالات متحده برای شغلی درخواست می‌دهید، احتمالاً سرنوشت شما پیش از آنکه انسانی رزومه‌تان را ببیند، توسط منطق یک شرکت نرم‌افزاری تصمیم گرفته شده است. طبق پژوهشی که در ۸ ژوئن ۲۰۲۶ منتشر شد، بیش از ۹۰٪ کارفرمایان آمریکایی به الگوریتم‌های استخدام تکیه می‌کنند و نکته تکان‌دهنده این است که اکثر آن‌ها از تعداد محدودی ارائه‌دهنده خدمات استفاده می‌کنند. این تمرکز شدید منجر به پدیده‌ای شده که پژوهشگران آن را «تک‌کشتی الگوریتمی» (Algorithmic Monoculture) می‌نامند؛ وضعیتی که در آن سوگیری یک مدل هوش مصنوعی می‌تواند به‌طور مؤثر یک کاندیدای صلاحیت‌دار را از تمام فرصت‌های شغلی یک صنعت خاص محروم کند.
این وضعیت در حالی رخ می‌دهد که شرکت‌ها به‌طور فزاینده‌ای تصمیم‌گیری‌های حساس و با ریسک بالا را به هوش مصنوعی‌های پیمانکار ثالث می‌سپارند. بسیاری از سازمان‌ها تصور می‌کنند با تغییر شرکت‌های پیمانکار، مسیر استخدام خود را متنوع می‌کنند، اما در واقع همگی صرفاً در حال اتصال به یک زیرساخت مشترک هستند. به عنوان مثال، طبق گزارش پژوهشگران، بیش از ۶۰٪ از شرکت‌های لیست Fortune 100 از الگوریتم‌های HireVue استفاده می‌کنند که این یعنی یک گلوگاه مرکزی برای میلیون‌ها متقاضی ایجاد شده است.
ابعاد مطالعه
این پژوهش که توسط تیمی از متخصصان از جمله ریشی بوماسانی (Rishi Bommasani)، سارا بانا (Sarah H. Bana)، کتلین کریل (Kathleen A. Creel)، دن جورافسکی (Dan Jurafsky) و پرسی لیانگ (Percy Liang) انجام شده، بزرگ‌ترین بررسی تجربی در حوزه استخدام الگوریتمی تا امروز است. تیم تحقیق داده‌های ۳.۴ میلیون متقاضی واقعی را که در مجموع ۴ میلیون درخواست ارسال کرده بودند، تحلیل کردند. این درخواست‌ها شامل ۱۵۶ کارفرما در ۱۱ بخش مختلف بازار بود. نکته کلیدی این است که تمام درخواست‌های موجود در این مجموعه توسط الگوریتم‌های یک ارائه‌دهنده واحد ارزیابی شده بودند؛ این ساختار به محققان اجازه داد تا آزمایش کنند که آیا این تک‌کشتی باعث ایجاد گلوگاه در فرصت‌های شغلی می‌شود یا خیر.
هزینه پنهان داده‌های تجمیعی
پژوهشگران دریافتند که روش‌های سنتی بازرسی (Audit) هوش مصنوعی برای شناسایی سوگیری، اساساً معیوب هستند زیرا تنها به داده‌های تجمیعی (Aggregate) نگاه می‌کنند. بر اساس مستندات این مطالعه، بررسی‌های قبلی اثرات منفی اندکی را نشان می‌دادند چون تمام داده‌های یک ارائه‌دهنده را به‌صورت کلی و یکپارچه می‌سنجیدند و این کار باعث می‌شد نابرابری‌ها در میانگین داده‌ها محو شوند و پنهان بمانند.
اما وقتی محققان داده‌ها را بر اساس پست‌های شغلی خاص — مطابق با استانداردهای قانون استخدام ایالات متحده (بند ۷ قانون حقوق مدنی یا Title VII of the Civil Rights Act) — تفکیک کردند، نابرابری‌ها به‌طور خیره‌کننده‌ای آشکار شد. آن‌ها دریافتند که ۲۵.۸۷٪ از درخواست‌های متقاضیان سیاهپوست و ۱۴.۷۴٪ از متقاضیان آسیایی‌تبار به سمت موقعیت‌هایی هدایت شده بودند که بر اساس استانداردهای قانونی، اثرات منفی و تبعیض‌آمیزی علیه آن‌ها داشت.
جزئیات نابرابری‌های نژادی
- متقاضیان سیاهپوست: این گروه بیشترین احتمال آسیب را دارند؛ ۳۰٪ از متقاضیان سیاهپوست برای حداقل یک موقعیت شغلی درخواست داده‌اند که سوگیری و اثر منفی شدیدی علیه آن‌ها نشان می‌دهد.
- متقاضیان آسیایی‌تبار: اگرچه درصد کمتری از درخواست‌های آن‌ها به سمت پست‌های سوگیرانه رفته است، اما متقاضیان آسیایی‌تبار بیشترین «خسارت کلی» یا کمبود فرصت را تجربه کرده‌اند. محققان محاسبه کردند که اگر آسیایی‌ها با همان نرخی انتخاب می‌شدند که گروه نژادی برتر برای هر پست انتخاب شده است، ۲۹ هزار درخواست بیشتر از متقاضیان آسیایی توصیه می‌شد.
رد سیستماتیک و اثر تک‌کشتی
نگران‌کننده‌ترین یافته، ظهور «رد سیستماتیک» است. در یک بازار سالم، اگر یک شرکت شما را رد کند، شانس شما در شرکت دیگر مستقل است و اثر متقابلی ندارد. اما در تک‌کشتی الگوریتمی، منطق یکسان AI در چندین کارفرما اجرا می‌شود و منجر به نتایج همگن می‌گردد. اگر یک متقاضی توسط الگوریتم توصیه نشود، احتمالاً بدون هیچ بررسی انسانی تکمیلی، در تمام شرکت‌های آن زنجیره رد خواهد شد.
- شکاف: ۱۰٪ از متقاضیانی که ۴ درخواست ارسال کرده بودند، توسط تمام آن چهار مورد به‌طور سیستماتیک رد شدند.
- خط پایه: این نرخ به‌طور معناداری از خط پایه تصمیمات مستقل آماری بالاتر است (χ2 = ۱۸,۴۸۱, p < 0.001).
- مقایسه: برای اثبات این موضوع، محققان داده‌های کلاین و همکاران (۲۰۲۲) را بررسی کردند که شامل ۸۳ هزار درخواست در ۱۰۸ شرکت Fortune 500 بود. در آن داده‌ها که فاقد AI مرکزی بودند، خط پایه به‌طور دقیقی نرخ رد را پیش‌بینی می‌کرد (χ2 = ۲۰.۰۵, p = 0.69). این موضوع ثابت می‌کند که همگونی بیش از حد، ویژگی متمایز ارزیابی‌های الگوریتمی متمرکز است.
تله احتمالات
محققان با شبیه‌سازی نتایج متقابل (Counterfactual)، بررسی کردند که آیا ارسال درخواست‌های بیشتر می‌تواند این چرخه را بشکند. آن‌ها دریافتند که اگر متقاضیان برای «همه» شغل‌ها درخواست بفرستند، در نهایت حداقل یک مدل آن‌ها را توصیه می‌کند. اما در رفتار واقعی و محدود، تک‌کشتی جریمه شدیدی اعمال می‌کند.
یک متقاضی برای اینکه با احتمال ۹۹.۹٪ حداقل یک توصیه دریافت کند، باید ۲۵ درخواست ارسال کند. در حالی که در دنیایی با تصمیم‌گیری‌های مستقل، برای رسیدن به همین سطح اطمینان، ارسال تنها ۱۰ درخواست کافی بود.
موانع پاسخگویی
نویسندگان تأکید می‌کنند که عدم دسترسی به داده‌ها، مانع اصلی ایمنی است. آن‌ها در حال حاضر اولین و تنها گروهی هستند که توانسته‌اند به‌طور مستقل روی الگوریتم‌های استقرار یافته در این مقیاس تحقیق کنند. از آنجا که این ابزارها تصمیمات حیاتی زندگی انسان‌ها را میانجی‌گری می‌کنند اما کدر و غیرشفاف هستند، محققان استدلال می‌کنند که مداخلات سیاستی اکنون برای فعال کردن پرس‌وجوهای علمی و افزایش پاسخگویی ضروری است.
توصیه‌های سیاستی
برای مقابله با این شکست‌های سیستماتیک، این مطالعه چهار تغییر حیاتی را پیشنهاد می‌کند:
- بازرسی در سطح پست: رگولاتورها و بازرسان باید نسبت اثرات منفی را در سطح تک‌تک موقعیت‌های شغلی بسنجند. تحلیل‌های صرفاً تجمیعی می‌توانند اثرات نابرابر را پنهان کنند.
- نظارت بر بازار: آژانس‌های فدرال باید نرخ نتایج همگن را اندازه‌گیری کنند. بدون بررسی پیوندهای بین کارفرمایان، گزارش‌های فعلی قادر به ثبت رد سیستماتیک نخواهند بود.
- پایش زنجیره تأمین: سیاست‌گذاران باید وابستگی‌های مشترک در زنجیره تأمین استخدام را رصد کنند تا از شکست‌های همبسته و کاهش رقابت جلوگیری شود.
- دسترسی اجباری به داده‌ها: قانون‌گذاران باید پژوهش‌های مستقل، از جمله دسترسی به داده‌های زیربنایی پلتفرم‌های بزرگ استخدام را برای تشخیص و اصلاح مشکلات تحریک و تسهیل کنند.
از منظر فنی، این تحقیق معیار «عدالت در هوش مصنوعی» را جابه‌جا می‌کند. ثابت شد مدلی می‌تواند در یک تست کلی «عادلانه» به نظر برسد، اما در بافت‌های خاص و حساس، به‌طور سیستماتیک تبعیض‌آمیز باشد. این یافته، این فرض را که «افزایش تعداد درخواست‌ها» راهکار موثری برای کاندیداها است به چالش می‌کشد؛ چرا که وقتی فیلتر زیربنایی در تمام مسیر یکسان باشد، تعداد درخواست‌ها تأثیری در نتیجه نهایی ندارد.
در آینده باید نظاره‌گر باشیم که قانون AI اتحادیه اروپا — که سیستم‌های استخدام را به عنوان AI پرریسک طبقه‌بندی می‌کند — یا قانون محلی ۱۴۴ نیویورک (Local Law 144) چگونه تکامل می‌یابند. راهنمایی‌های فعلی در نیویورک به‌طور کافی به اثرات سطح پست (Position-level) که در اینجا مستند شده است نمی‌پردازند و این موضوع شکافی در حفاظت از کاندیداهای اقلیت صلاحیت‌دار ایجاد کرده است.
گفتگو