تصور کنید صبح از خواب بیدار شوید و متوجه شوید منبع درآمدتان توسط یک خط کد بسته شده است، بدون اینکه بدانید چرا یا کسی را برای اعتراض پیدا کنید. این کابوس برای هزاران راننده اوبر به واقعیت تبدیل شد و حالا قیمت این اتوماسیون برای شرکت، ۹۶۶ میلیون دلار است.
طبق اعلام سازمان حفاظت از داده‌های هلند در ۱۷ اوت ۲۰۲۶، اوبر (Uber) با استفاده از سامانه‌های خودکار، حساب‌های رانندگان را بدون اطلاع‌رسانی کافی و نظارت انسانی مسدود کرده است. این تصمیم بر اساس قوانین GDPR (مقررات عمومی حفاظت از داده‌ها) اتخاذ شد؛ قوانینی که اجازه نمی‌دهند تصمیمات حیاتی دربارهٔ معیشت افراد، صرفاً توسط ماشین‌ها گرفته شود.
همان‌طور که در تحلیل‌های قبلی ما دربارهٔ حریم خصوصی و حقوق دیجیتال اشاره کردیم، فشار رگولاتورهای اروپایی بر غول‌های فناوری آمریکایی در حال افزایش است. این جریمه تنها پس از جریمه ۱.۲ میلیارد دلاری متا (Meta) در سال ۲۰۲۳ رخ می‌دهد و بخشی از موج جریمه‌های میلیاردی علیه گوگل (Google)، اپل (Apple) و آمازون (Amazon) است.
شکست الگوریتم‌های نظارتی
بر اساس مستندات این پرونده که از شکایت‌های رانندگان فرانسوی بین سال‌های ۲۰۱۸ تا ۲۰۲۲ آغاز شد، دو عامل اصلی باعث تعلیق خودکار حساب‌ها می‌شد:
- تشخیص تقلب: سامانه‌ها رانندگانی را که برای افزایش کرایه مسیرهای غیرضروری می‌رفتند یا سفرهایی را می‌پذیرفتند که قصد اتمام آن‌ها را نداشتند، شناسایی و مسدود می‌کردند.
- شاخص‌های عملکرد: رانندگانی که امتیاز پایینی از مشتریان می‌گرفتند، گاهی توسط یک کامپیوتر به‌طور دائمی حذف می‌شدند.
اوبر این یافته‌ها را رد کرده و مدعی است که هرگز تعلیق‌های دائمی را کاملاً خودکار نکرده است. این شرکت استدلال می‌کند که جریمه نامتناسب است، زیرا در سال ۲۰۲۱ تنها ۱۲۶ راننده در اروپا به‌دلیل امتیاز پایین مسدود شده‌اند.
ریسک‌های حقوقی مدیریت ماشینی
در چارچوب GDPR، تصمیماتی که صرفاً توسط الگوریتم‌ها گرفته می‌شوند و تأثیر شدیدی بر زندگی فرد دارند — مثل قطع منبع درآمد — ممنوع هستند. این اقدامات نیازمند یک فرآیند بازبینی انسانی و مسیری شفاف برای اعتراض فرد آسیب‌دیده است. مونیک وردیه، نایب‌رئیس سازمان نظارتی، تأکید کرد که رانندگان بدون هشدار درآمد خود را از دست دادند و یک کامپیوتر نباید به‌تنهایی چنین تصمیمات سرنوشت‌سازی بگیرد.
برای یک کارگر اقتصاد گیگی (Gig Economy) — یعنی کسانی که به‌جای استخدام رسمی، پروژه‌ای و کوتاه‌مدت کار می‌کنند — این پرونده ثابت می‌کند که «مدیریت الگوریتمی» در اروپا سقف قانونی دارد. اگر پلتفرمی نتواند ثابت کند که پیش از فشار دادن دکمهٔ «خاموش»، یک انسان داده‌ها را بررسی کرده است، با مسئولیت‌های مالی عظیمی روبروست. این سوءاستفاده از اتوماسیون در حالی رخ می‌دهد که هوش مصنوعی به‌طور گسترده‌ای در ابعاد جهانی برای هدایت جرایم سایبری به کار گرفته شده است و خطرات امنیتی و حقوقی آن را دوچندان می‌کند.
اوبر اعلام کرده است که به این تصمیم اعتراض می‌کند و مدعی است سیاست‌هایش شامل بازبینی انسانی است. در همین حال، گروه حقوق دیجیتال PersonalData.IO در حال آماده‌سازی یک شکایت دسته‌جمعی برای دریافت غرامت مستقیم برای رانندگان متضرر است.
گام بعدی شما
- اگر از ابزارهای اتوماسیون برای مدیریت نیروی انسانی استفاده می‌کنید، حتماً یک لایه «تأیید انسانی» (Human-in-the-loop) برای تصمیمات حساس اضافه کنید.
- قوانین GDPR را برای هرگونه پردازش داده‌های کاربران اروپایی بازخوانی کنید تا از جریمه‌های مشابه در امان بمانید.
- روند شکایت‌های دسته‌جمعی PersonalData.IO را دنبال کنید تا مدل‌های غرامت در اقتصاد پلتفرمی را بشناسید.
اما این تنها بخشی از نبرد حقوقی است؛ اثر این جریمه بر مدل‌های کسب‌وکار شرکت‌های تاکسی آنلاین را در گزارش بعدی بررسی خواهیم کرد.
گفتگو