تصور کنید به دلیل یک فورس‌ماژور خانوادگی، بازدهی شما برای دو هفته افت کند و صبح روز دوشنبه، ایمیلی دریافت کنید که می‌گوید یک الگوریتم شما را اخراج کرده است. این کابوس برای بسیاری از کارکنان شرکت‌های تک‌محور به واقعیت تبدیل شده بود، اما حالا کالیفرنیا سدی در برابر آن ساخت.
قانون «ممنوعیت رئیس‌های رباتیک» (No Robo Bosses Act) که در ۱ اکتبر ۲۰۲۶ به امضای فرماندار گاوین نیوسوم رسید، استانداردی جدید را تعریف می‌کند: هیچ رباتی نمی‌تواند بدون تأیید نهایی یک انسان، حکم اخراج صادر کند. طبق این قانون، هرگونه اقدام انضباطی که بر اساس توصیه‌های هوش مصنوعی زاینده (Generative AI) — شبیه دستیاری که داده‌ها را تحلیل می‌کند اما احساسات را نمی‌فهمد — صورت گیرد، باید توسط یک شخص واقعی بازبینی شود.
این قانون در حالی تصویب شد که شرکت‌ها به‌شدت در حال ادغام ابزارهای خودکار منابع انسانی برای نظارت بر بهره‌وری هستند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی حریم خصوصی در محیط کار اشاره کردیم، این ابزارها در پردازش حجم عظیم داده‌ها استادند، اما در درک تفاوت بین «افت عملکرد» و «بحران شخصی» ناتوان‌اند. یک الگوریتم فقط یک روند نزولی را می‌بیند، اما یک انسان می‌تواند بفهمد که این افت نتیجه‌ی یک بیماری یا اتفاق ناگوار است. این چالش‌ها در راستای تلاش‌های گسترده‌تر برای مهار قدرت عامل‌های هوشمند است، مشابه توافق اخلاقی اخیر میان دولت آمریکا و غول‌های فناوری برای ایجاد چارچوب‌های نظارتی بر هوش مصنوعی.
به نقل از گزارش dev.to، این قانون به معنای ممنوعیت کامل هوش مصنوعی در محیط کار نیست. شرکت‌ها همچنان می‌توانند از سامانه‌های خودکار برای موارد زیر استفاده کنند:
- تحلیل داده‌های مربوط به عملکرد کارکنان
- شناسایی افرادی که بازدهی آن‌ها کاهش یافته است
- پیشنهاد اقدامات انضباطی خاص
طبق مستندات این قانون، تغییر بنیادین در «زنجیره پاسخگویی» رخ داده است. ماشین می‌تواند پیشنهاد اخراج بدهد، اما دیگر نمی‌تواند نقش قاضی و جلاد را به‌طور هم‌زمان ایفا کند. این فشار قانونی پس از گزارش‌های متعددی از اخراج‌های کورکورانه توسط سیستم‌های امتیازدهی مبهم صورت گرفت که هیچ فرآیند تجدیدنظری برای کارکنان پیش‌بینی نکرده بودند. در واقع، تکیه بیش از حد به این سیستم‌ها اغلب به تله‌ی امتیازات اطمینان منجر می‌شود که در آن نظارت انسانی به دلیل اعتماد کورکورانه به اعداد، شکست می‌خورد.
برای مدیران کسب‌وکار، این یعنی ابزارهای HR مبتنی بر AI دیگر «تنظیم کن و فراموش کن» نیستند. اکنون ریسک قانونی بر عهده مدیر انسانی است که پیشنهاد هوش مصنوعی را امضا می‌کند. اگر بازبینی انسانی صرفاً یک مهر تأیید سریع و بدون بررسی باشد، شرکت‌ها همچنان در برابر سوگیری‌های الگوریتمی یا خطاهای سیستمی پاسخگو خواهند بود.
کالیفرنیا معمولاً پیش‌رانی در تنظیم قوانین صنعت فناوری آمریکا است. احتمالاً در ماه‌های آینده شاهد خواهیم بود که ایالت‌های دیگر نیز الزامات «انسان در حلقه» (Human-in-the-loop) را در قوانین استخدامی خود بگنجانند. این رویکرد با تغییرات داخلی در برخی شرکت‌های بزرگ همسو است؛ برای مثال، تغییر معیار سنجش کارکنان در متا نشان می‌دهد که صنعت در حال حرکت از کوتاهای عددی ساده به سمت ارزیابی‌های کاربردی‌تر است.
گام بعدی شما
- اگر مدیر هستید، فرآیند بازبینی انسانی برای توصیه‌های AI را مستند کنید تا از ریسک‌های حقوقی در امان بمانید.
- اگر کارمند هستید، از شرکت خود بپرسید که چه معیارهای الگوریتمی برای سنجش عملکرد شما استفاده می‌شود.
- روی ابزارهای شفاف‌سازی هوش مصنوعی تمرکز کنید تا دلیل توصیه‌های مدل برای شما قابل درک باشد.
اما تأثیر این قوانین بر مدل‌های مدیریت توزیع‌شده و دورکاری حتی پیچیده‌تر است — به تحلیل ما درباره‌ی آینده مدیریت دیجیتال مراجعه کنید.
گفتگو