میوز متا (Muse)، عامل هوش مصنوعی شخصی این شرکت، حالا بیش از ۱۰ میلیون کاربر دارد. وقتی کاربری ایمیل، پیام‌رسان یا تقویمش را به آن وصل می‌کند، اطلاعات تماس، رویدادهای تقویم و متن پیام‌های مخاطبانش هم به میوز می‌رسد؛ بی‌آنکه آن‌ها رضایتی داده باشند.
میوز متا چیست و چند کاربر دارد
متا میوز را ۸ سپتامبر به‌عنوان عامل شخصی هوش مصنوعی عرضه کرد. این ابزار به ایمیل، تقویم و پیام‌رسان‌ها وصل می‌شود و کارها را خودکار انجام می‌دهد. متا در تماس گزارش مالی سه‌ماههٔ سوم اعلام کرد شمار کاربران میوز از ۱۰ میلیون نفر گذشته و حدود ۲۵ درصد آن‌ها هر روز از آن استفاده می‌کنند. خرید، مدیریت ایمیل و تنظیم تقویم از رایج‌ترین کاربردهای آن است.
دیوید گوریتس از ZDNET در بررسی عملی خود دید که میوز مجوزهای گسترده‌ای می‌خواهد: مخاطبان، تقویم، ایمیل‌ها و حتی اطلاعات ورود به حساب‌ها. با توجه به سابقهٔ متا در حریم خصوصی، همین موضوع از ابتدا نگرانی ایجاد کرد. انویدیا هم ۳ میلیارد دلار برای تعمیق همکاری بر سر میوز سرمایه‌گذاری کرده است، اما پیامدهای حریم خصوصی این ابزار حالا از کاربرانش فراتر رفته است.
میوز روی یک ماشین مجازی ابری (cloud VM) اجرا می‌شود. این ماشین می‌تواند شبانه‌روز کار کند، با مرورگر تعامل داشته باشد و داده‌ها را به‌صورت پیش‌فرض به فرایند آموزش مدل‌های متا بفرستد. غیرکاربران هیچ رابطهٔ مستقیمی با این سامانه ندارند، اما اطلاعاتشان با تصمیم مخاطبانشان وارد آن می‌شود.
داده‌ها و مجوزهای میوز
میوز در اندروید به این دسته‌های داده دسترسی می‌خواهد:
- عکس‌ها و ویدیوها
- اطلاعات مالی
- اطلاعات و عملکرد برنامه
- فایل‌ها و اسناد
- فعالیت در برنامه
- اطلاعات شخصی: نام، ایمیل، شناسه‌های کاربری، نشانی و شماره تلفن
- مخاطبان
- تاریخچهٔ مرور وب
- داده‌های سلامت و تناسب اندام
- پیام‌ها: ایمیل، SMS، MMS و پیام‌های درون‌برنامه‌ای
- صدا
- موقعیت مکانی
- تقویم و رویدادهای آن
داده غیرکاربران چگونه وارد میوز متا می‌شود
متا می‌پذیرد که میوز از چند راه اطلاعات غیرکاربران را جمع می‌کند. اگر کاربری تقویمش را وصل کند و دربارهٔ جلسه‌های پیش رو بپرسد، نام شرکت‌کنندگان و جزئیات جلسه وارد درخواست می‌شود.
اگر کاربر از میوز بخواهد رشته‌ای از پیام‌ها را خلاصه کند یا پاسخی بنویسد، هوش مصنوعی اطلاعات حساس دیگران را هم می‌خواند؛ مثل برنامهٔ سفر، گفت‌وگوهای پزشکی، مذاکرات شغلی یا نگرانی‌های مالی. کاربر همچنین ممکن است اسناد، عکس یا ویدیویی بارگذاری کند که داده‌های دیگران در آن است.
کانکتورهای میوز
کانکتورها (Connectors) پل ارتباط ماشین مجازی میوز با سرویس‌های دیگر از طریق API هستند. اگر حساب میوز با همان اطلاعات ورود مرکز حساب متا (Meta Account Center) ساخته شده باشد، فیسبوک، اینستاگرام و تردز خودکار وصل می‌شوند.
الکساندر وانگ، مدیر ارشد هوش مصنوعی متا، روز عرضه در ایکس کانکتورهای دیگر را هم معرفی کرد: Gmail، Google Calendar، Outlook، Plaid، OpenTable، Google Docs، Spotify، Function Health، Withings، Tailscale و Peloton. کاربران می‌توانند از میوز بخواهند برای سرویس‌هایی که کانکتور آماده ندارند، فراخوان API سفارشی بسازد.
حریم خصوصی غیرکاربران و نبود رضایت
موضع متا این است: «از آنجا که فردِ استفاده‌کننده از میوز انتخاب می‌کند چه چیزی را با ما در میان بگذارد و چه درخواستی از میوز داشته باشد، نمی‌توانیم دقیقاً پیش‌بینی کنیم چه اطلاعاتی دربارهٔ شما در آن قرار می‌گیرد.»
کالی شرودر، مشاور ارشد برنامهٔ هوش مصنوعی و حقوق بشر Epic.org، هشدار داد: «اگر متا محافظت‌های بهتری ایجاد نکند، میوز حتی برای کسانی که آگاهانه از آن دوری می‌کنند به کابوس تبدیل می‌شود.» میوز همچنین ممکن است اطلاعات عمومی مربوط به غیرکاربران را از وب جمع کند؛ کاری که با رویکرد کلی متا در گردآوری داده همخوان است.
وعده‌های متا دربارهٔ ناشناس‌سازی
متا ناشناس‌سازی کامل را وعده نمی‌دهد. این شرکت می‌گوید داده‌های غیرکاربران «به حساب متا پیوند داده نمی‌شود و طوری ذخیره نمی‌شود که متا بتواند به‌طور معقول تشخیص دهد کدام اطلاعات متعلق به چه کسی است.» این وعده به معیار «شناسایی معقول» در پژوهش‌های دانشگاهی نمی‌رسد؛ در آن پژوهش‌ها شناسه‌های شخصی کاملاً حذف می‌شوند. سیاست حریم خصوصی میوز هم می‌گوید اطلاعات ممکن است طبق همین سیاست «استفاده یا به اشتراک گذاشته شود».
ماشین مجازی محرمانه هنوز در دسترس نیست
میوز فعلاً روی ماشین مجازی ابری معمولی کار می‌کند. سیاست متا از گزینه‌ای در آینده به نام confidential VM (ماشین مجازی محرمانه) خبر می‌دهد که «اطلاعات افراد را حتی از خود متا هم محرمانه نگه می‌دارد»، اما این محیط هنوز عرضه نشده است. گوریتس یادآوری کرد که تعامل‌ها، از جمله داده‌های مربوط به غیرکاربران، ممکن است برای بهبود آموزش هوش مصنوعی متا به کار رود، مگر اینکه کاربر این گزینه را در بخش Settings and Data Controls خاموش کند.
آموزش مدل به‌صورت پیش‌فرض فعال است
متا می‌گوید اگر آموزش فعال باشد، برخی اطلاعات شناسایی شخصی مثل نام، نشانی ایمیل، شماره تلفن و شمارهٔ تأمین اجتماعی را حذف می‌کند و تعامل‌ها را از حساب کاربر جدا می‌کند. با این حال، کارایی این روش هنوز تأیید نشده است. روشن بودن پیش‌فرض این گزینه، بار خروج را بر دوش کاربر می‌گذارد؛ الگویی که با رویکرد همیشگی متا در گردآوری داده همخوان است.
غیرکاربران چه راهی دارند
کاربران میوز می‌توانند مجوزها را تنظیم و آموزش مدل را خاموش کنند، هرچند دربارهٔ اثر واقعی رد مجوزها تردید وجود دارد. غیرکاربران فقط می‌توانند بر اساس قوانین حریم خصوصی کشور خود اعتراض کنند و این قوانین ممکن است گفت‌وگوهای میوز را پوشش ندهد.
الکسیس شور اینگبر، کارشناس حقوق حریم خصوصی، در دانشگاه سیراکیوز گفت مخاطبان در عمل محافظت چندانی ندارند: «درخواست از کسی برای منتشر نکردن اطلاعات شخصی‌تان ممکن است جواب بدهد […]، اما ذاتاً بر رابطهٔ میان دو نفر فشار می‌آورد. پلتفرم‌ها مسئول‌اند به‌طور پیش‌فرض از کسانی محافظت کنند که به گردآوری داده رضایت نداده‌اند. اینجا چنین اتفاقی نمی‌افتد.»
تماس تلفنی هوش مصنوعی با کسب‌وکارها
متا در حال آزمایش قابلیتی است که در آن هوش مصنوعی از طرف کاربران میوز با کسب‌وکارها تماس تلفنی می‌گیرد. صاحبان کسب‌وکار می‌توانند درخواست کنند چنین تماس‌هایی دریافت نکنند، اما پیش‌فرض به سود تماس‌گیرنده و فعال (opt-in) است. به این ترتیب، مشکل داده غیرکاربران به تماس‌های صوتی با طرف‌هایی هم می‌رسد که هرگز با گفت‌وگو با هوش مصنوعی موافقت نکرده‌اند.
شکاف قانونی در برابر عامل‌های هوش مصنوعی
با ۱۰ میلیون کاربری که هر روز ارتباطاتشان را با میوز پردازش می‌کنند، تبادل‌های خصوصی میلیون‌ها غیرکاربر وارد سامانه‌ای می‌شود که هرگز انتخابش نکرده‌اند. رضایت از کاربرِ عامل گرفته می‌شود، نه از صاحب داده. برای افراد حرفه‌ای یعنی هر ایمیل، پیام یا دعوت تقویمی که به کاربر میوز فرستاده شود، ممکن است بدون اطلاع فرستنده خوانده، خلاصه و حتی برای آموزش مدل استفاده شود.
قانون‌گذاران هنوز به مشکل افراد ثالث در هوش مصنوعی عامل‌محور نپرداخته‌اند. GDPR اتحادیهٔ اروپا و چارچوب‌های مشابه بر رابطهٔ مستقیم کنترل‌کنندهٔ داده و صاحب داده بنا شده‌اند. اما میوز رابطه‌ای سه‌طرفه می‌سازد: متا به‌عنوان کنترل‌کننده، داده‌های غیرکاربر را به دستور کاربر میوز پردازش می‌کند. تا وقتی قوانین به‌روز نشده‌اند، تنها دفاع عملی این است که هر ارتباط دیجیتال با کاربر هوش مصنوعی متا را خصوصی ندانید.
گام بعدی شما
- فرض کنید هر پیام، ایمیل یا دعوت تقویمی که برای کاربر میوز می‌فرستید ممکن است خوانده شود.
- اگر از میوز استفاده می‌کنید، آموزش مدل را در بخش Settings and Data Controls خاموش کنید.
- اگر در سازمانی کار می‌کنید، بررسی کنید که آیا برای ارتباط با مخاطبانی که از دستیارهای هوش مصنوعی خوانندهٔ پیام استفاده می‌کنند، به سیاست مشخصی نیاز دارید.
- راهنمایی‌های نهادهای ناظر دربارهٔ جریان داده در عامل‌های هوش مصنوعی را دنبال کنید.
گفتگو