اگر کسبوکاری دارید، یک توهم (Hallucination) — مثل دوستی که خاطرهای را با اطمینان اما کاملاً اشتباه تعریف میکند — در نتایج جستوجوی گوگل را جدی بگیرید؛ چون اکنون میتواند شما را به دادگاه بکشاند. در ۹ ژوئن ۲۰۲۶، دادگاهی در آلمان حکم داد که گوگل مسئول مستقیم ادعاهای غلط در خلاصههای هوش مصنوعی خود است.
این حکم، نگاه قانون به موتورهای جستوجو را تغییر میدهد. پیشتر، همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای زبانی اشاره کردیم، گوگل صرفاً نقش یک راهنما را داشت. اما حالا با استفاده از مدل زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — گوگل نقش یک ویراستار را ایفا میکند که اخبار را بازنویسی میکند.
به نقل از اسناد پرونده (شماره ۲۶ O ۸۶۹/۲۶)، دادگاه منطقهای مونیخ این دستور موقت را صادر کرد؛ چرا که هوش مصنوعی گوگل دو ناشر را به اشتباه به کلاهبرداری مرتبط کرده بود. طبق اعلام دادگاه، این خلاصهها دیگر فهرستی از لینکها نیستند، بلکه «گزارههای مستقل، جدید و اساسی» خلق میکنند.
بر اساس گزارش Oumi برای نیویورک تایمز، ابعاد این مشکل گسترده است:
- مدل Gemini 3 در ۹۱٪ موارد درست جواب میدهد.
- با این حال، هر ساعت میلیونها پاسخ غلط به کاربران نمایش داده میشود.
- ۵۶٪ از پاسخهای درست، هیچ ردی از منبع لینکشده در متن خود ندارند.
به همین دلیل، گوگل باید ۸۰٪ هزینههای قانونی این پرونده را بپردازد. برای شما به عنوان کاربر، این یعنی دفاعیه «اعتماد کن اما بررسی کن» دیگر اعتبار ندارد. دادگاه این ادعای گوگل را رد کرد که کاربر باید خودش منابع را چک کند؛ چون در واقعیت، مردم بهندرت روی لینکها کلیک میکنند.
این تصمیم یعنی اگر هوش مصنوعی شما سایتی را خلاصه کند و اشتباه کند، مسئولیت با شماست، نه سایت اصلی.
گام بعدی شما
- اگر از AI برای تولید محتوا استفاده میکنید، هر ادعای عددی یا نامی را با نقلقول مستقیم از منبع تطبیق دهید.
- در تنظیمات سرویسهای خلاصهساز، اولویت را بر «ارجاع دقیق» بگذارید تا از توهمات مدل جلوگیری شود.
- وضعیت قوانین اتحادیه اروپا را دنبال کنید تا ببینید آیا این سختگیری به سایر کشورهای عضو نیز گسترش مییابد یا خیر.
اما داستان حقوقی این تحول در ایالات متحده احتمالاً متفاوت خواهد بود — به تحلیل ما دربارهی قوانین کپیرایت و AI مراجعه کنید.
گفتگو