تصور کنید تمام ایمیلهای سازمانی و اسناد محرمانهی شما، اکنون برای Gemini به کتابهای بازی تبدیل شدهاند. طبق گزارشهای تأییدشده، گوگل دسترسی پیشفرض چتبات خود را به دادههای شرکتها در Gmail، Docs، Drive، Calendar و Chat فعال کرده است.
این تغییر در حالی رخ میدهد که سازمانها برای ایجاد تعادل میان بهرهوری هوش مصنوعی و حاکمیت دادهها در تکاپو هستند. همانطور که در تحلیل قبلی ما دربارهی اثرات مدلهای زبانی بر دیدگاههای جهانی اشاره کردیم، گوگل اکنون از تئوریهای رفتاری مدلها فاصله گرفته و به دنبال ادغام عمیق در جریانهای کاری حرفهای است. برای کاربر عادی، این یک ارتقای راحت و بیدرز است، اما برای مدیران سیستم، یک کابوس احتمالی در زمینه انطباق قانونی و حاکمیت دادههاست.
به گزارش ZDNET، گوگل برای پاسخدهی از مکانیزمی به نام تولید بازیابیافزا (Retrieval-Augmented Generation یا RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — استفاده میکند. در این روش، Gemini بهجای آموزش مدل جهانی با اسرار شما، یک جستوجوی لحظهای در دادههای نمایهشدهی Workspace شما انجام میدهد تا پاسخ را فرموله کند.
ماهیت این ادغام
رویکرد گوگل در ادغام هوش مصنوعی، بر همان پایهای است که موتور جستوجوی آن بنا شده است. از آنجا که گوگل از ابتدا منابع Workspace را نمایهسازی کرده است، Gemini نیازی به ساخت یک پایگاهدادهی جدید و اختصاصی برای ایمیلها یا اسناد شما ندارد تا بتواند عمل کند.
وقتی کاربر پرامپتی میفرستد، هوش مصنوعی از طریق RAG در دادههای Workspace جستوجو میکند، اطلاعاتی را که اجازه دسترسی به آنها را دارد بازیابی میکند و سپس پاسخ را میسازد. این سازوکار باعث میشود AI در تمام سطوح از جمله Chat، Drive، Docs، Calendar، Meet و Gmail در دسترس باشد و پاسخها دقیقاً با محیط کاری خاصی که کاربر در آن لحظه از آن استفاده میکند، همسو و مرتبط شوند. در همین راستا، گوگل پیشتر توضیح داده بود که Gemini چگونه مجوزهای دسترسی کاربر به فایلهای درایو را شبیهسازی میکند تا از دسترسی غیرمجاز جلوگیری شود.
جزئیات فنی عملکرد
- منابع هوشمندی: گوگل با Gmail، Drive، Docs، Calendar و Meet بهعنوان «منابع هوشمندی Workspace» (Workspace Intelligence Sources) مجزا برخورد میکند.
- جداسازی دادهها: گوگل صراحتاً اعلام کرده است که از این دادهها برای آموزش مدلهای خود استفاده نمیکند و پرامپتها یا پاسخها را با سازمانها یا کاربران دیگر به اشتراک نمیگذارد.
- بازیابی مبتنی بر جستوجو: هوش مصنوعی اطلاعاتی را که اجازه لمس و دسترسی به آنها را دارد، از طریق ایندکسهای موجود گوگل استخراج میکند.
- محدودیتهای دامنه: گوگل تضمین میکند که دادهها خارج از دامنهی خاص و اختصاصی شرکت مورد نظر استفاده نشوند.
شکاف حاکمیتی و امنیتی
حتی بدون آموزش خارجی، ریسکهای داخلی همچنان بالا هستند. اینکه دادهها به بیرون درز نمیکنند، موضوع را از یک «آتشسوزی بزرگ» با پیامدهای نظارتی شدید به یک مسئلهی سیاستهای داخلی شرکت تبدیل میکند، اما خطرات داخلی همچنان قابل توجهاند.
یکی از نگرانیهای اصلی، اجرای جداسازی دپارتمانی است. این احتمال وجود دارد که هوش مصنوعی پاسخی تولید کند که بهطور تصادفی شامل سوابق محرمانه — مانند قراردادهای خصوصی یا شکایات منابع انسانی (HR) — باشد و آن پاسخها را در اختیار کارمندانی قرار دهد که در دپارتمانهای کاملاً متفاوت فعالیت میکنند.
علاوه بر این، یک مسیر جدید برای تهدیدات داخلی ایجاد شده است. چه این کار توسط انسانها انجام شود و چه توسط AI، کارمندان کنجکاو یا بدخواه میتوانند با پرسش از AI، حفاظهای سنتی دپارتمانی را دور بزنند. حتی پرسشهای بیغرض و ساده میتواند اطلاعات حساسی را از لاگهای Chat یا یک سند Google Doc بیرون بکشد که کارمند در حالت عادی نباید به آنها دسترسی داشته باشد.
برای شرکتهایی که تحت رژیمهای نظارتی سختگیرانه هستند، این تنظیم «فعال بهصورت پیشفرض» (Default-on) بهشدت ریسکزا است. بسیاری از سازمانها قراردادهایی با مشتریان یا محدودیتهای نظارتی دارند که اسکن دادهها و بازیابی اطلاعات توسط AI را صراحتاً ممنوع میکند. در این موارد، تنظیمات پیشفرض گوگل میتواند منجر به نقض ناخواسته و تصادفی قراردادها شود.
روش غیرفعالسازی دسترسی
مدیران میتوانند این قابلیت را از طریق داشبورد مدیریت گوگل در آدرس admin.google.com متوقف کنند. مراحل به این ترتیب است:
۱. ورود به حسابی با دسترسی ادمین.
۲. رفتن به داشبورد اصلی.
۳. کلیک روی Generative AI.
۴. انتخاب Gemini in Workspace.
۵. کلیک روی بلوک Workspace Intelligence Sources.
در این صفحه تنظیمات مجزا، مدیران این گزینه را دارند که منبع داده را برای کل سازمان تجاری غیرفعال کنند.
محدودیتهای کنترل جزئی
یک نقص جدی در کنترلهای جزئی وجود دارد. مدیران نمیتوانند یک منبع خاص را فقط برای یک کاربر واحد در بلوک کاربران استاندارد خاموش کنند. هنگام تلاش برای غیرفعال کردن منبعی مانند Drive یا Docs برای یک فرد خاص، رابط کاربری فقط در حالت نمایش (View-only) است و اجازه هیچ تغییری را نمیدهد.
برای محدود کردن دسترسی افراد خاص، مدیران باید مراحل اضافهای طی کنند. این کاربران باید به واحدهای سازمانی (OU) مجزا منتقل شوند یا به یک گروه جدید و خاص اضافه شوند تا بتوان تنظیمات متفاوتی را روی آنها اعمال کرد.
این رویکرد «فعال پیشفرض»، بار مسئولیت حریم خصوصی را از دوش تامینکننده به دوش مشتری میاندازد. گوگل با این کار، «جادوی» یک AI آگاه و مطلع را بر احتیاطهای امنیتی سازمانی ترجیح داده است.
برای یک کارمند عادی، این یعنی AI حالا برنامه زمانی و پیشنویسهای او را میشناسد. اما برای مدیر امنیت اطلاعات (CISO)، یعنی مرزهای امنیتی حالا به داخل چتبات منتقل شدهاند. شما دیگر فقط مدیریت نمیکنید چه کسی به یک پوشه دسترسی دارد، بلکه باید مدیریت کنید چه کسی میتواند درباره محتویات آن پوشه از AI بپرسد.
گام بعدی شما
- اگر مدیر سیستم هستید، فوراً تنظیمات Workspace Intelligence Sources را بررسی کنید تا از عدم نقض قراردادهای محرمانگی مشتریان مطمئن شوید.
- برای کاربران، توصیه میشود اسناد بسیار حساس را در پوشههایی قرار دهند که دسترسیهای سختگیرانهتری دارند، هرچند کنترل AI همچنان در سطح ادمین است.
- سیاستهای دسترسی به دادههای داخلی را بازنگری کنید تا از نشت اطلاعات بین دپارتمانها از طریق AI جلوگیری شود.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو