سوگیری نژادی در جست‌وجوی گوگل: هشدار امنیتی برای ملیت‌های خاص

تصور کنید از یک هوش مصنوعی می‌پرسید که با شخصی از ملیتی خاص تنها هستید و مدل به‌جای پاسخ معمولی، به شما دستور می‌دهد فوراً با پلیس تماس بگیرید. این تجربهٔ تکان‌دهنده، چهرهٔ واقعی سوگیری‌های پنهان در مدل‌های زبانی بزرگ است که اکنون در جست‌وجوی گوگل رخ داده است.

طبق گزارش Futurism که در ۱ سپتامبر ۲۰۲۶ منتشر شد، قابلیت AI Overviews (مرورهای هوش مصنوعی) گوگل در مواجهه با ملیت‌های مختلف، واکنش‌های متضادی داشت. وقتی کاربر در مورد تنها بودن با یک فرد بریتانیایی سؤال می‌کرد، مدل پیشنهاد می‌داد «چای بنوشید و دربارهٔ آب‌وهوا گپ بزنید»؛ اما برای ملیت‌های آفریقایی، هندی یا پاکستانی، مدل هشدار اضطراری صادر می‌کرد و کاربر را به یافتن مکان امن یا تماس با خدمات امدادی ترغیب می‌کرد.

این اتفاق نشان می‌دهد که مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — استریوتایپ‌های اجتماعی را به‌عنوان حقیقت پذیرفته است. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، نبودِ حفاظ‌های سخت‌گیرانه در مدل‌های عمومی منجر به بازتولید کلیشه‌های خطرناک می‌شود. این چالش‌ها در کنار تلاش‌های گوگل برای کنترل خروجی‌ها، مانند تسهیل حذف واترمارک‌های بصری در Gemini و Flow، نشان‌دهنده تضاد میان آزادی کاربر و نظارت بر محتواست.

گوگل در شبکه اجتماعی X این شکست را پذیرفت و اعلام کرد که نتایج با استانداردهای شرکت همخوانی ندارد. بر اساس مستندات گوگل، کلمه «تنها» (alone) محرک اصلی این هشدارهای امنیتی بوده است.

گوگل پس از واکنش‌های شدید، اصلاحاتی را برای حذف سوگیری‌های نژادی اعمال کرد. اما بررسی‌ها نشان می‌دهد که این سوگیری تنها تغییر شکل داده است، نه اینکه حذف شود:

• کارکنان گوگل: مدل اکنون صرفاً بحث‌های ویروسی پیرامون این اتفاق را توضیح می‌دهد.
• کارکنان فیس‌بوک: مدل همچنان به کاربران توصیه می‌کند منطقه را ترک کنند و در صورت نیاز با شماره ۱۱۰ تماس بگیرند.

این چرخش نشان می‌دهد گوگل اکنون «هویت سازمانی» را به‌عنوان یک بردار ریسک جدید می‌بیند. برای کاربر عادی، این یعنی تعریف «تهدید» در هوش مصنوعی گوگل متناقض است و به‌جای ریسک واقعی، بر اساس داده‌های آموزشی مبهم شکل گرفته است. در دنیایی که هوش مصنوعی تا این حد در لایه‌های سیستمی نفوذ کرده، برخی کاربران حتی به دنبال سخت‌افزارهای جایگزین و گوشی‌های ضد-هوش مصنوعی هستند تا از نظارت‌های سخت‌گیرانه و سوگیری‌های لایه‌ی سخت‌افزاری فاصله بگیرند.

گام بعدی شما

• در هنگام استفاده از AI Overviews برای پرس‌وجوهای مربوط به هویت یا ملیت، پاسخ‌ها را با منابع مستقل تطبیق دهید.
• اگر با پاسخ‌های تبعیض‌آمیز مواجه شدید، از طریق گزینه Feedback گزارش کنید تا داده‌های آموزشی اصلاح شوند.
• تغییرات در فیلترهای ایمنی گوگل را دنبال کنید تا متوجه شوید چه مفاهیمی اکنون «پرخطر» تعریف شده‌اند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.