تصور کنید یک دوست صمیمی، بدون اطلاع شما، تمام تاریخچهٔ پیام‌ها و شماره تلفن شما را در اختیار یک شرکت بزرگ فناوری قرار دهد. این دقیقاً همان اتفاقی است که اکنون با گسترش Muse رخ می‌دهد.
به گزارش The Verge در تاریخ ۱۵ اکتبر ۲۰۲۶، این عامل (Agent) — شبیه به یک دستیار شخصی دیجیتال که می‌تواند به‌جای شما کارهای واقعی انجام دهد — با استفاده از یک آواتار مجازی جذاب، کاربران را متقاعد می‌کند تا عمیق‌ترین دسترسی‌های دیجیتال خود را به آن بدهند. این استراتژی باعث شد Muse از زمان عرضه در سپتامبر ۲۰۲۶، میلیون‌ها دانلود جذب کرده و رتبه اول اپ‌استور اپل را تصاحب کند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی حریم خصوصی در مدل‌های عامل‌محور اشاره کردیم، مرز بین کاربرد و جاسوسی در حال کمرنگ شدن است. Muse این روند را با درخواست دسترسی به داده‌های افرادی که حتی حساب متا ندارند، شتاب بخشیده است.
بر اساس مستندات این برنامه، Muse برای ایفای نقش یک دستیار شخصی، دسترسی به این موارد را درخواست می‌کند:
- حساب‌های بانکی و رمزهای عبور مالی
- لیست کامل مخاطبان تلفن
- تاریخچهٔ پیام‌های خصوصی (Chat Logs)
- مجوزهای سیستمی کلی برای اجرای دستورات کاربر
این وضعیت یک حفره امنیتی بزرگ ایجاد می‌کند؛ چراکه مدل با داده‌های افرادی آموزش می‌بیند یا از آن‌ها بهره می‌برد که هرگز «شرایط استفاده» را امضا نکرده‌اند. این آسیب‌پذیری‌های ساختاری در دسترسی‌ها، یادآور آسیب‌پذیری‌های امنیتی پیشین در Muse است که به مهاجمان اجازه می‌داد کنترل کامل این عامل را به دست بگیرند. در واقع، وقتی یک کاربر دسترسی به مخاطبانش را می‌دهد، تمام دایره اجتماعی خود را به‌طور غیرمستقیم وارد موتور جمع‌آوری داده‌های متا می‌کند.
برای کاربر عادی، این یعنی اطلاعات شخصی شما احتمالاً در یک پایگاه داده شرکتی ذخیره شده است، فقط چون یکی از دوستانتان می‌خواست دستیار هوش مصنوعی‌اش کارآمدتر باشد. ما از مدل حریم خصوصی فردی به مدل «حریم خصوصی شبکه‌ای» کوچ کرده‌ایم؛ جایی که امنیت شما به بی‌احتیاط‌ترین فرد آشنای شما بستگی دارد.
گام بعدی شما
- در تنظیمات حریم خصوصی گوشی خود، دسترسی‌های Muse را بازبینی و محدود کنید.
- از دوستان خود بخواهید دسترسی به مخاطبان را برای برنامه‌های عامل‌محور غیرفعال کنند.
- منتظر واکنش‌های نظارتی FTC یا اتحادیه اروپا درباره مدل «رضایت توسط وکیل» در هوش مصنوعی باشید.
اما این تنها بخشی از قصه است؛ اثر این مدل جمع‌آوری داده بر آموزش نسل بعدی مدل‌های زبانی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو