تصور کنید در حساسترین لحظات زندگی خود برای دریافت یک توصیه پزشکی به هوش مصنوعی اعتماد کنید و بدون آنکه بدانید، به جای یک پزشک، با یک فعال ایدئولوژیک روبهرو شوید. این سناریوی ترسناک اکنون برای بسیاری از کاربران چتباتهای پیشرو به واقعیت تبدیل شده است.
طبق گزارش AlgorithmWatch که در ۲۴ اوت ۲۰۲۶ منتشر شد، دستکم یکچهارم پرسشهای مربوط به بارداری در مدلهای مختلف، کاربران را به وبسایتهای ضدسقطجنین هدایت میکند. این در حالی است که این پلتفرمها ادعا میکنند پاسخهایشان خنثی و مبتنی بر دادههای پزشکی است، اما در عمل، سوگیریهای شدید سازمانهای ایدئولوژیک را بدون هیچ افشایی بازنشر میکنند.
این بحران در حالی رخ میدهد که جستوجوی مبتنی بر هوش مصنوعی در حال جایگزینی موتورهای جستوجوی سنتی است. در این فضای جدید، کاربران به دلیل لحن همدلانه مدلها، کمتر منابع را راستیآزمایی میکنند. همانطور که در تحلیلهای قبلی ما دربارهی سوگیریهای مدلهای زبانی اشاره کردیم، وقتی یک مدل زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — پاسخ میدهد، کاربر دیگر لینکهای مختلف را اسکن نمیکند، بلکه به خلاصهٔ مدل اعتماد میکند.
پژوهشگران برای بررسی این موضوع، از شخصیتهای فرضی به زبانهای انگلیسی، آلمانی و ایتالیایی برای تست ChatGPT-5 (OpenAI)، Gemini 3 (Google)، Grok 4.3 (xAI) و Claude Sonnet 4.8 (Anthropic) استفاده کردند. یافتههای این بررسی عبارت است از:
- گروه Profemina که با سازمان Heartbeat International در آمریکا مرتبط است، در ۱۷٪ از کل پاسخها معرفی شد.
- در پرسشهای آلمانی، چتباتها در ۱۱ مورد از ۱۲ مورد، سازمان Caritas را توصیه کردند؛ در حالی که این سازمان گواهینامههای قانونی لازم برای مشاوره سقطجنین در آلمان را ندارد.
- مدل Gemini در یک گفتگو، پنج بار به Profemina لینک داد و حتی یک گرافیک از این سایت را به اشتراک گذاشت و تنها در انتهای گفتگو، هشداری درباره منبع صادر کرد.
به نقل از سخنگوی OpenAI، نسخه جدیدتر یعنی GPT-5.5 در درک بستر کاربر (مانند جنسیت) بهتر عمل میکند، اما این نسخه پس از دوره تست منتشر شد. گوگل و OpenAI در پاسخ به این گزارش، تنها به سیاستهای کلی خود اشاره کردند و پذیرفتند که این سیاستها بهطور مشخص پرسشهای مربوط به سقطجنین را پوشش نمیدهند.
این شکست نشاندهنده یک ریسک سیستمی است: مدلها مانند جعبههای سیاهی هستند که توسط ردپای دیجیتال شکل میگیرند. چون سازمانهایی مثل Caritas حضور دیجیتال گستردهای دارند، مدلها بدون توجه به کاربرد قانونی یا نیاز واقعی کاربر، آنها را بالا میآورند. این چالشها در کنار تولید محتوای نامناسب و جعلی توسط مدلهای برتر، نگرانیها را دربارهی فقدان نظارت دقیق بر خروجیهای هوش مصنوعی افزایش داده است.
برای کاربر عادی، «کامل بودن» پاسخ هوش مصنوعی در واقع نقابی برای سوگیری است. وقتی یک چتبات همدلانه صحبت میکند، احتمال اینکه کاربر مشروعیت لینکها را زیر سؤال ببرد کاهش مییابد و در واقع تصمیمات حیاتی سلامت را به یک الگوریتم تأییدنشده میسپارد.
در همین راستا، چارچوبهای قانونی در حال تغییر هستند. دادگاهی در مونیخ اخیراً حکم داد که پاسخهای تولیدشده توسط هوش مصنوعی، «محتوای اصلی» محسوب میشوند و نه صرفاً نتایج جستوجو؛ این یعنی ارائهدهندگان مدلها مسئولیت قانونی کامل دقت و بیطرفی خروجیهای خود را بر عهده دارند.
گام بعدی شما
- در مواجهه با توصیههای پزشکی هوش مصنوعی، حتماً اعتبار سازمانهای معرفیشده را بهطور مستقل بررسی کنید.
- از ابزارهای جستوجوی سنتی برای مقایسه منابع مختلف در موضوعات حساس استفاده کنید.
- در صورت مشاهده سوگیری در پاسخها، از قابلیت Feedback مدلها برای گزارش موارد نادرست استفاده کنید.
اما اثر این احکام دادگاه بر مدلهای متنباز حتی پیچیدهتر است — به تحلیل ما دربارهی مسئولیت حقوقی مدلهای Open Weights مراجعه کنید.
گفتگو