اگر فکر میکنید الگوریتمهای استخدامی فیلترهای خنثی هستند، سخت در اشتباهید. باید بدانید که یک سوگیری کوچک در کد یک شرکت ارائهدهنده، میتواند بهطور همزمان درهای هزاران سازمان را بهروی اقلیتها ببندد.
طبق گزارش منتشر شده در ۸ ژوئن ۲۰۲۶، بیش از ۶۰٪ از شرکتهای لیست Fortune 100 از الگوریتمهای HireVue استفاده میکنند. این وضعیت منجر به ایجاد یک تکمحوری الگوریتمی (Algorithmic Monoculture) شده است که در آن منطق یک ارائنده واحد، بر هزاران موقعیت شغلی در شرکتهای مختلف حاکم است. همانطور که در بحثهای گذشته ما دربارهی سوگیری مدلهای زبانی اشاره کردیم، وقتی یک مدل مرکزی دچار خطا شود، این خطا دیگر یک مورد استثنایی نیست، بلکه به یک مانع سیستمیک تبدیل میشود.
بر اساس مستندات منتشر شده در algorithmichiring.github.io، پژوهشگران ۴ میلیون درخواست شغلی از ۳.۴ میلیون کاندیدا در ۱۵۶ کارفرما را تحلیل کردند. یافتههای آنها نشان میدهد که ممیاریهای تجمیعی (Aggregate Audits) — یعنی بررسی کلی نرخ پذیرش — عملاً تبعیض را پاک میکنند و آن را نامرئی میسازند.
دادههای کلیدی این پژوهش عبارتاند از:
- ۲۵.۸۷٪ از متقاضیان سیاهپوست و ۱۴.۷۴٪ از آسیاییها با تاثیر نامطلوب (Adverse Impact) مواجه شدند که طبق استانداردهای Title VII در قوانین آمریکا، در سطح هر شغل بهتنهایی غیرقانونی است.
- ۱۰٪ از متقاضیانی که ۴ درخواست ارسال کرده بودند، در هر ۴ مورد بهطور سیستمیک رد شدند.
- برای دستیابی به احتمال ۹۹.۹٪ در دریافت حداقل یک توصیه، متقاضیان باید ۲۵ درخواست ارسال کنند؛ در حالی که در سیستمهای تصمیمگیری مستقل، ۱۰ درخواست کافی است.
این نتایج در تضاد کامل با خط مبنای سال ۲۰۲۲ در مطالعه Kline et al. است؛ جایی که نرخ رد شدن با استقلال آماری مطابقت داشت، زیرا در آن زمان هیچ ارائنده واحدی بر بازار مسلط نبود.
این کشف، اعتبار روشهای فعلی ممیاری هوش مصنوعی را به چالش میکشد. نویسندگان استدلال میکنند که انطباق فعلی شرکتها با قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) یا قانون محلی ۱۴۴ نیویورک ناکافی است. برای جامعه فنی، این یعنی بنچمارکهای عدالت (Fairness) باید از متریکهای کلی مدل به نتایج دقیق و تفکیکشده در سطح هر نقش شغلی تغییر کنند.
گام بعدی شما
- بررسی تغییرات احتمالی در نحوه ارزیابیهای EEOC برای ابزارهای خودکار استخدامی.
- مطالعه متدولوژی کامل در مخزن algorithmichiring.github.io برای پیادهسازی ممیاریهای سطح-شغل (Position-level auditing).
- بازنگری در استراتژیهای انتخاب مدل برای سازمانهایی که برونسپاری غربالگری رزومهها را انجام میدهند.
اما این سوگیری تنها در استخدام نیست؛ اثر این تکمحوریها بر امنیت ملی و زیرساختهای حیاتی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو