تصور کنید دستیاری دیجیتال که برای تسهیل کارهای شما طراحی شده، ناگهان آدرس دقیق خانه شما را برای یک غریبه ارسال کند. این کابوس برای برخی کاربران Muse، عامل هوشمند جدید متا (Meta)، به واقعیت تبدیل شده است.
اندی استون (Andy Stone)، معاون ارتباطات متا، در ۳۰ سپتامبر ۲۰۲۶ صراحتاً اعلام کرد که ادغام پیام‌ها در این سیستم کاملاً اختیاری است و فعال‌سازی تصادفی آن غیرممکن است. این واکنش تند و تکذیب صریح از سوی مدیریت شرکت پس از آن رخ داد که یک خبرنگار مدعی شد Muse، عامل هوش مصنوعی متا، بدون کسب اجازه پیام‌های خصوصی او را خوانده است.
زمینه
این تنش در حالی شکل می‌گیرد که متا تلاش می‌کند عامل‌های شخصی خود را برای رقابت در بازاری شلوغ گسترش دهد. همان‌طور که در تحلیل قبلی ما درباره‌ی اینکه چگونه عامل‌هایی مانند Dots در حال آوردن رایانش ابری به ChatGPT هستند اشاره کردیم، صنعت اکنون از چت‌های ساده به سمت عامل‌هایی حرکت می‌کند که می‌توانند روی سیستم‌عامل کاربر عملیاتی شوند و وظایف واقعی را اجرا کنند. برای یک کاربر عادی، این یعنی هوش مصنوعی دیگر فقط یک تب در مرورگر نیست، بلکه لایه‌ای است که مستقیماً روی خصوصی‌ترین داده‌های او قرار می‌گیرد.
سوابق متا در مدیریت داده‌های مصرف‌کننده، اعتماد عمومی را به شدت کاهش داده است. این شرکت تاریخچه‌ای طولانی از مدیریت نادرست داده‌ها دارد که منجر به شکایت‌های متعدد، نقض قوانین کمیسیون تجارت فدرال (FTC) و جریمه‌های سنگین شده است. همین میراث منفی باعث شده تا مردم کمتر احتمال داشته باشند که تضمین‌های شرکتی را بدون دلیل پذیرفته و به آن‌ها اعتماد کنند.
جزئیات
به نقل از گزارش تک‌کرانچ (TechCrunch)، دیوید سینگلتون (David Singleton) از آزمایشگاه‌های ابرهوش متا توضیح داد که دسترسی به پیام‌ها در مک نیازمند سه لایه تایید مجزا است:
- دسترسی کامل به دیسک (Full Disk Access): کاربر باید این مورد را صراحتاً از طریق رابط کاربری تنظیمات سیستم‌عامل macOS فعال کند.
- انتخاب سطح دسترسی: پس از تایید دسترسی دیسک، کاربر به صورت دستی سطح دسترسی (بدون دسترسی، فقط خواندنی یا خواندن) را در داخل اپلیکیشن Muse انتخاب می‌کند. اگر دسترسی کامل به دیسک خاموش باشد، این گزینه‌ها خاکستری (غیرفعال) باقی می‌مانند.
- تایید نهایی سیستم: این فرآیند یک دیالوگ تایید در macOS را فرا می‌خواند که پس از تایید دستی کاربر، منجر به ری‌استارت کامل اپلیکیشن Muse می‌شود.
سینگلتون معتقد است حتی در صورت وجود باگ در اپلیکیشن، دور زدن این حفاظ‌ها غیرممکن است. اما جیسون اتن (Jason Aten)، ستون‌نویس فناوری، مدعی است Muse پیام‌های او را در حالی که دسترسی دیسک غیرفعال بود، خوانده است. وقتی از هوش مصنوعی پرسیده شد، مدل پاسخ داد که در حال همگام‌سازی «اعلان‌های دستگاه» است. این ادعا نشان می‌دهد که عامل احتمالاً متن اعلان‌های بنری (Banner Notifications) ورودی در مک را به خود منتقل می‌کرده است. سینگلتون این ادعا را رد کرد و گفت مدل دچار توهم (Hallucination) شده و صرفاً توضیحی غلط و اشتباه ارائه داده است.
برای حمایت از ادعاهای خود، سینگلتون به مستندات رسمی متا در مورد معماری امنیتی Muse و فرآیند پاداش برای یافتن باگ‌ها (Bug Bounty) اشاره کرد. در واقع، موضع متا این است که اتفاقات توصیف شده توسط اتن، نه تنها رخ نداده‌اند، بلکه اساساً نمی‌توانستند رخ دهند.
با این حال، در حالی که متا بر معماری امنیتی خود پافشاری می‌کند، سوابق این شرکت در زمینه داده‌های مصرف‌کننده همچنان یک نقطه ضعف است. اخیراً یک هیئت منصفه در نیومکزیکو تشخیص داد که متا کاربران را در مورد شیوه‌های مدیریت داده‌های مربوط به رسوایی سال ۲۰۱۸ کمبریج آنالیتیکا گمراه کرده است. این تاریخچه باعث می‌شود کاربران نسبت به تکذیب‌های رسمی در مورد نقض حریم خصوصی بدبین باشند.
فراتر از بحث پیام‌ها، Muse با انتقاداتی به دلیل شکست‌های عملیاتی روبروست. یک یوتیوبر به نام مت راب (Matt Robb) گزارش داد که پس از اجازه دادن به Muse برای مدیریت حساب فیس‌بوک مارکت‌پلیس، این عامل در اجرای یک وظیفه اشتباه کرده و آدرس منزل او را با یک غریبه به اشتراک گذاشته است. این اتفاق منجر به حضور یک بازدیدکننده ناخوانده در خانه او در زمانی شد که وی در منزل نبود. این مشکلات عملیاتی در حالی رخ می‌دهد که تست‌های استرس پیشین نشان‌دهنده نرخ شکست بالای این سیستم در مقیاس گسترده بود.
این الگو نشان می‌دهد که شکافی میان امنیت تئوریک متا و رفتار واقعی این عامل در دنیای واقعی وجود دارد. در حالی که اپلیکیشن Muse با جذب میلیون‌ها کاربر در آمریکای شمالی در حال حاضر رتبه اول در اپ استور را دارد، موفقیت بلندمدت آن به اعتماد کاربران بستگی دارد. اگر هوش مصنوعی به توهم درباره مجوزهای خود یا نشت اطلاعات حساس شناسایی شخصی (PII) ادامه دهد، وعده «عامل‌محور» بودن به یک ریسک تبدیل می‌شود.
برای کاربر، این یعنی ریسک از «جمع‌آوری داده‌ها» به «نشت فعال داده‌ها» تغییر کرده است. عاملی که می‌تواند به شما کمک کند یک کاناپه بفروشید، همان عاملی است که می‌تواند به طور تصادفی آدرس شما را برای عموم منتشر کند.
باید منتظر ماند و دید آیا متا ممیزی فنی مفصلی از نشت داده‌های مارکت‌پلیس منتشر می‌کند یا خیر، زیرا سینگلتون اشاره کرده است که در حال حاضر در حال بررسی دقیق این حادثه خاص است.
گام بعدی شما
- اگر از Muse استفاده می‌کنید، دسترسی‌های Full Disk Access را در تنظیمات macOS بازبینی کنید.
- برای کارهای حساس، از عامل‌هایی که دسترسی مستقیم به اعلان‌های سیستم (Notifications) دارند دوری کنید.
- گزارش‌های مربوط به نشت داده‌های Marketplace را دنبال کنید تا ببینید آیا متا ممیزی فنی منتشر می‌کند یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو