تصور کنید دستیاری دارید که ابتدا قسم می‌خورد چیزی را نمی‌داند، اما لحظه‌ای بعد با دقت تمام جزئیات همان موضوع را برای شما می‌خواند. این دقیقاً همان تجربه‌ای است که کاربران Gemini در مواجهه با فایل‌های گوگل درایو دارند.
این سردرگمی در زمانی رخ می‌دهد که کاربران با شکافی عمیق میان وعده‌های تبلیغاتی هوش مصنوعی و واقعیت عملکردی آن‌ها دست‌وپنجه نرم می‌کنند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی تنش میان یکپارچگی اکوسیستم گوگل و شفافیت کاربر اشاره کردیم، این موضوع یادآور جریمه ۴.۶۷ میلیارد دلاری گوگل در پرونده ضداتحادی اندروید است. برای یک کارمند اداری، این وضعیت شبیه به دستیار دیجیتالی است که درباره قابلیت‌های خودش دروغ می‌گوید.
بر اساس گزارشی از dev.to، این تناقض‌ها از سه عامل معماری نشأت می‌گیرند:
- کوری زمینه‌ای (Context Blindness): مدل فاقد یک چک‌لیست لحظه‌ای از سیستم است و به‌جای بررسی عملیات زنده، به داده‌های آموزشی تکیه می‌کند.
- منطق تکمیل خودکار: آموزش‌های ایمنی مدل را هدایت می‌کنند تا برای جلوگیری از ادعای فعالیت‌های غیرمجاز، به‌طور پیش‌فرض پاسخ «نه» بدهد.
- بازیابی نمایه‌شده (Indexed Retrieval) — شبیه به دانش‌آموزی که قبل از جواب دادن، ابتدا کتاب درسی را باز می‌کند و از آن نقل می‌آورد — که باعث می‌شود Gemini پس از درخواست داده‌های خاص، اطلاعاتی را که از طریق افزونه‌های مجاز به آن‌ها دسترسی دارد، به یاد آورد.
طبق مستندات، دسترسی تنها زمانی رخ می‌دهد که کاربر به‌صورت دستی افزونه Google Workspace را فعال کرده باشد؛ یعنی این فرآیند کاملاً اختیاری است. با این حال، در یک رشته‌تأیید در پشتیبانی گوگل (شماره ۴۴۵۱۶۵۸۱۸)، کاربران Gemini Pro همچنان از شکست مدل در اجرای تبدیل‌های دقیق داده در محیط Workspace گلایه می‌کنند.
این فقدان شفافیت یعنی «اعتماد» به هوش مصنوعی در حال حاضر به مهارت کاربر در پرامپت‌نویسی برای مجبور کردن مدل به صداقت وابسته است. برای متخصصان، این یعنی پاسخ «نه» از سوی یک مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — لزوماً یک محدودیت فنی نیست، بلکه یک پیش‌فرض زبانی است.
گام بعدی شما
- تنظیمات افزونه‌های Workspace را مجدداً بررسی و فعال کنید.
- به‌جای پرسیدن سوالات کلی درباره قابلیت‌ها، از پرامپت‌های صریح برای تحریک مکانیزم بازیابی استفاده کنید.
- خروجی‌های مربوط به تحلیل داده‌های حساس را با منبع اصلی در درایو تطبیق دهید.
اما این چالش‌های اعتمادی تنها بخشی از ماجراست؛ اثر این تناقض‌ها بر استقرار عامل‌های هوش مصنوعی در سازمان‌ها را در گزارش بعدی بررسی خواهیم کرد.
گفتگو