تصور کنید صبح از خواب بیدار شوید و بفهمید چهره شما اکنون تبدیل به یک «دستور متنی» (Prompt) شده است تا غریبهها با استفاده از آن، آثار هنری مصنوعی بسازند. این تجربه تلخ برای میلیونها کاربر به واقعیت تبدیل شده بود، زیرا شرکت متا این قابلیت را بهصورت پیشفرض فعال کرده بود و کاربران را مجبور کرد تا برای خارج شدن از این سیستم، در میان منوهای پیچیده تنظیمات جستوجو کنند، بهجای آنکه ابتدا از آنها اجازه بگیرد تا بهصورت اختیاری عضو شوند.
طبق گزارشهای منتشر شده، هر کاربری در اپلیکیشن AI متا میتوانست حسابهای عمومی اینستاگرام را برچسبگذاری کند و بدون اجازه یا رضایت قبلی، تصاویری بر اساس شباهت ظاهری آن کاربران تولید کند. این ابزار جنجالی تنها ۳ روز دوام آورد. در اوایل ژوئیه ۲۰۲۴، پس از موجی از اعتراضات ویروسی تولیدکنندگان محتوا، متا مجبور شد عرضه این قابلیت را لغو و آن را بازگرداند.
برای درک این اتفاق باید بدانیم که متا از رویکرد «خروج اختیاری» (Opt-out) استفاده کرد؛ یعنی شبیه به اشتراکی که شما را بهطور خودکار عضو میکند و برای لغو آن باید در میان منوهای پیچیده بگردید، بهجای آنکه ابتدا از شما اجازه بگیرد تا عضو شوید (Opt-in). همانطور که در تحلیلهای قبلی ما دربارهی سیاستهای دادهمحور شرکتهای بزرگ اشاره کردیم، این مدل از طراحی، تکیه بر تنبلی یا بیاطلاعی کاربر دارد.
واکنشهای تند جامعه کاربران
واکنش جامعه کاربران بسیار سریع و شدید بود. چندین تولیدکننده محتوا ویدئوهایی ویروسی منتشر کردند تا روند لغو این قابلیت را آموزش دهند و صدای نارضایتی خود را برسانند. به نقل از گزارشها، ویدئوی «سم سوئین یانگ» بیش از ۳ میلیون بازدید داشت. یانگ با تأسف اشاره کرد که شرکتها همچنان ابزارهای AI را به کسانی تحمیل میکنند که اصلاً آنها را نمیخواهند و تصریح کرد: «آنها باید گزینه عضویت اختیاری (Opt-in) را پیش روی ما میگذاشتند، نه اینکه ما را مجبور کنند برای خارج شدن تلاش کنیم.»
ثورین کلوسوفسکی، فعال ارشد امنیت و حریم خصوصی در بنیاد مرزهای الکترونیکی (EFF)، این پاسخ کاربران را یک «پسزدن صریح و فوری» توصیف کرد. او اشاره کرد که سرعت بازگشت متا — یعنی حرکت از وضعیت «روشن بودن چراغها به خاموش شدن» تنها در ۳ روز — بهطور pozorرسانی سریع بود. متا نیز در پی این outcry یا خروش عمومی، در بیانیهای پذیرفت که این ویژگی «هدف را گم کرده است».
این رویکرد، بازتابی از یک روند گستردهتر در سیلیکونولی است؛ جایی که ویژگیهای AI بهصورت تهاجمی وارد جریان کاری کاربران میشوند. برای مثال، گوگل بهتازگی نوار «Ask Gemini» را به گوگل داکس اضافه کرد تا کاربران را به ادغام چتبات در فرآیند نوشتن متون تشویق کند. الگوهای مشابهی در پلتفرمهایی مانند دراپباکس و لینکدین نیز دیده میشود، جایی که کاربران باید بهصورت دستی ابزارهای AI را غیرفعال کنند تا از دادههایشان محافظت نمایند.
نبرد بر سر حریم خصوصی
بن وینترز، مدیر AI و حریم خصوصی در فدراسیون مصرفکنندگان آمریکا، متا را «پاسدار وضعیت موجودِ خروج اختیاری» مینامد. او استدلال میکند که این شرکت از فضای فعلی بهرهبرداری میکند، زیرا در ایالات متحده فقدان مقررات کافی و مناسب برای حریم خصوصی وجود دارد.
جزئیات رویههای دادهای متا شامل موارد زیر است:
- مرور پیشرفته (Enhanced Browsing): تنظیماتی در فیسبوک که وبسایتهای بازدیدشده توسط کاربر درون اپلیکیشن را ردیابی میکند.
- ثبتنام پیشفرض: استراتژی ثبتنام خودکار کاربران برای آموزش مدلهای هوش مصنوعی یا استفاده از ابزارهای AI.
- پژوهشهای کنترلی: دانیل رابرتز، سخنگوی متا، به مجله WIRED گفت که شرکت از طریق سازمانهای بینصنعتی مانند TTC Labs روی توسعه کنترلهای سادهتر و کاربرپسندتر کار میکند.
وودرو هارتزوگ، استاد حقوق در دانشگاه بوستون، هشدار میدهد که اکثر مردم هرگز تنظیمات کارخانه را تغییر نمیدهند. بنابراین، اگر شما بهصورت پیشفرض ثبتنام شده باشید، احتمالاً فارغ از ترجیحات شخصیتان، عضو همان سیستم باقی خواهید ماند.
جایگزینهای نظارتی و قانونی
طرفداران حریم خصوصی، مقررات GDPR (مقررات عمومی حفاظت از دادهها) اتحادیه اروپا را الگویی برتر میدانند. بهطور خاص، ماده ۲۵ این قانون را الزام میکند که سامانهها باید بهگونهای ساخته شوند که فقط دادههای ضروری را جمعآوری کنند.
محورهای اصلی رویکرد GDPR عبارتند از:
- حداقلسازی دادهها (Data Minimization): سیستمها باید فقط آنچه لازم است جمع کنند و هیچ داده اضافهای دریافت نکنند.
- حریم خصوصی پیشفرض (Privacy by Default): اگر یک گزینه از نظر حفاظتی برتر از گزینه دیگر است، باید آن گزینه حفاظتی بهصورت پیشفرض انتخاب شده باشد.
در حالی که برخی ایالتهای آمریکا مانند کالیفرنیا و مریلند قوانین پراکندهای را تصویب کردهاند، کارشناسان بر ضرورت یک استاندارد فدرال تأکید دارند. این امر به مصرفکنندگانی کمک میکند که از تعداد زیاد تنظیمات تأثیرگذار بر حریم خصوصی، دچار سردرگمی شدهاند. بن وینترز معتقد است فضای فعلی یک «دستورالعمل کامل» برای مداخله دولت فدرال است تا مردم را از اقدامات سوءاستفادهگرانه و فریبکارانه در مقیاس گسترده محافظت کند. او خوشبین است که احساسات عمومی، ایالات متحده را به مقررات فدرال نزدیکتر از آنچه یک دهه پیش بود، رسانده است.
پیامدهای فنی و اجتماعی
در لایههای فنی، متا همچنان اشتهای خود را برای آموزش مدلهای AI افزایش میدهد. شرکت کنترل حریم خصوصی مجزایی را برای Muse Image (مدل تولید تصویر متا) معرفی کرد تا کاربران واجد شرایط بتوانند با استفاده از محتوای عمومی خود برای آموزش مدل مخالفت کنند. این تلاش برای مدیریت هزینههای عملیاتی و دادهای در حالی است که صنعت بهسمت بهینهسازی ساختاری حرکت میکند؛ برای مثال بررسی مدلهای لایهبندیشده در مقابل LLMهای سنتی نشان میدهد که چگونه کاهش هزینهها و بهینهسازی منابع در اولویت شرکتهای فناوری است.
با این حال، این کلیدهای تنظیم اغلب مبهم، پیچیده و دور از دسترس (esoteric) باقی میمانند. ریسک اینجاست که ما به جهانی تبدیل شویم که لبریز از جعل عمیق (Deepfake) باشد — شبیه به یک فیلم سینمایی که در آن هر کسی میتواند چهره هر کسی را روی هر بدنی بنشاند. هارتزوگ استدلال میکند که فناوری صرفاً یک ابزار خنثی نیست، بلکه بهگونهای طراحی میشود که واقعیتهای خاصی را محتملتر کند. وقتی شرکتی میلیونها نفر را بهطور خودکار وارد ابزار جعل عمیق میکند، جهانی پر از فریب و جعل عمیق به یک واقعیت پیشبینیپذیر تبدیل میشود.
ادعاهای دانیل رابرتز درباره اینکه متا «طیف گستردهای از تنظیمات و کنترلها» را برای کمک به کاربران در شکل دادن به تجربهشان میسازد، با عمر کوتاه ۳ روزه قابلیت برچسبگذاری در تضاد است و شکاف عمیقی میان پژوهشهای شرکتی و تجربه واقعی کاربر را نشان میدهد.
گام بعدی شما
- تنظیمات حریم خصوصی حسابهای Meta خود را بازبینی کنید و گزینههای مربوط به آموزش AI را بررسی نمایید.
- در صورت استفاده از ابزارهای تولید تصویر، از تنظیمات Privacy by Design برای محافظت از دادهها استفاده کنید.
- تحولات قانونی اتحادیه اروپا در مورد GDPR را دنبال کنید تا بدانید استانداردهای جهانی حریم خصوصی به کدام سو میروند.
اما داستان سختافزاری این تحولات حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو