تصور کنید یک غریبه از عکسهای تعطیلات شما برای ساخت یک تبلیغ سفارشی یا یک جعل عمیق (Deepfake) استفاده کند؛ این دقیقاً همان واقعیتی بود که کاربران با پروفایل عمومی در اینستاگرام تجربه میکردند. متا در ۱۰ ژوئیه ۲۰۲۶، تنها چند روز پس از عرضه عمومی، ابزار بحثبرانگیز Muse Image را بهطور کامل حذف کرد. هدف متا از این ابزار، گسترش خلاقیت بود، اما در عمل به کاربران اجازه میداد عکسهای حسابهای عمومی اینستاگرام را بدون اطلاع یا رضایت نویسنده اصلی، در خلق آثار هوش مصنوعی بگنجانند. این اقدام واکنشهای شدیدی را برانگیخت که منجر به کنار گذاشتن این ویژگی شد.
این اتفاق در حالی رخ میدهد که پلتفرمهای اجتماعی برای ادغام هوش مصنوعی زاینده (Generative AI) — ابزارهایی که مثل یک نقاش دیجیتال، دادههای قبلی را میبلعند تا چیزهای جدید خلق کنند — با نظارتهای شدید روی برداشت دادهها دستوپنجه نرم میکنند. همانطور که در تحلیل قبلی ما دربارهی نبردهای حقوقی متا با کمیسیون اروپا بر سر طراحیهای اعتیادآور اشاره کردیم، این حادثه تنش دائمی میان استقرار سریع فناوری AI و حریم خصوصی کاربران را برجسته میکند.
طبق گزارش TechCrunch، این سیستم توسط Meta Superintelligence Labs ساخته شده بود. اگرچه این ابزار بهطور خودکار حسابهای خصوصی و کاربران زیر ۱۸ سال را از دایره دسترسی حذف میکرد، اما میلیونها کاربر عمومی را در معرض خطر قرار داد. بر اساس مستندات منتشر شده، نقاط شکست کلیدی این سیستم عبارت بودند از:
- فقدان کامل رضایت: از کاربران برای استفاده مجدد از تصاویرشان اجازه گرفته نشده بود و هیچ اطلاعی به آنها در مورد این بازبینی دادهها داده نشد.
- پتانسیل سوءاستفاده: امکان دستکاری تصاویر عمومی، مسیر را برای آزار و اذیت، جعل هویت و ویرایشهای غیرقانونی و بدون رضایت باز کرد.
- سختی در خروج (Opt-out): برای توقف این روند، کاربران مجبور بودند بهصورت دستی در منوهای پیچیده به بخش «Sharing and reuse» در تنظیمات بروند و گزینه استفاده مجدد از محتوا برای پستها و ریلزها را غیرفعال کنند.
متا در نهایت پذیرفت که این قابلیت «هدف را گم کرده است» (missed the mark) و آن را از پلتفرم حذف کرد. این شکست با پیشینه این شرکت، از جمله جریمه ۵ میلیارد دلاری FTC در سال ۲۰۱۹ برای گمراه کردن کاربران درباره کنترل دادهها و رسوایی کمبریج آنالیتیکا که ۸۷ میلیون پروفایل را درگیر کرد، تشدید میشود و نشان میدهد الگوهای رفتاری شرکت تغییر نکرده است.
برای کاربران عادی، این یک هشدار جدی است: کلمه «عمومی» در شبکههای اجتماعی اکنون بهطور فزایندهای به معنای «دادههای آموزشی» یا «مواد ورودی» برای مدلهای هوش مصنوعی است. این چرخش نشان میدهد متا در یافتن تعادل بین رقابت شدید برای ویژگیهای جدید AI و اعتماد شکنندهی کاربرانش شکست خورده است.
گام بعدی شما
- همین حالا تنظیمات «Sharing and reuse» اینستاگرام خود را بررسی کنید تا مطمئن شوید محتوای شما به مدلهای فعال یا آتی تغذیه نمیشود.
- تغییرات آینده را در مورد اینکه متا قصد دارد چگونه اعتبار تصاویر (Credits) و شفافیت را در نسخههای بعدی هوش مصنوعی خود مدیریت کند، دنبال کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو