مؤسسه مرزهای الکترونیک (EFF) هشدار داد که دستگاه‌های پوشیدنی هوش مصنوعی از متا، گوگل، اپل و آمازون حریم خصوصی را از انتخاب فردی به آسیب‌پذیری جمعی تبدیل کرده‌اند. این دستگاه‌ها ناظران بی‌اختیار را بدون رضایت ثبت و رونویسی می‌کنند، در حالی که حفاظت‌های فنی تنها مالک دستگاه را می‌پوشاند.
حریم خصوصی همیشه یک ورزش تیمی بوده است. انتخاب‌های اپلیکیشن پیام‌رسانی شما بر هر مخاطبی در دفترچه آدرس تأثیر می‌گذارد. تنظیمات پشتیبان‌گیری ابری داده‌های همکاران را در کنار داده‌های شما افشا می‌کند. اما نسل جدید سخت‌افزاری این انتخاب‌ها را از نرم‌افزار به فضاهای فیزیکی می‌کشد که در آن غریبان، همکاران و خانواده به ناخواسته مشارکت‌کننده می‌شوند.
شرکت‌ها استدلال می‌کنند کاربران مسئولانه عمل کرده و اطرافیان را مطلع می‌کنند. آن‌ها انتظار دارند ناظران به متخصصان تکنولوژی مصرفی تبدیل شوند که نشانگرهای ضبط را بشناسند، یکپارچگی پلتفرم‌ها را درک کنند و قوانین رضایت ایالتی را بپیمایند. EFF این انتظار را غیرمنطقی و جدا از نحوه عملکرد رضایت در عمل می‌نامد.
نظارت محیطی هوش مصنوعی: از نرم‌افزار به فضای فیزیکی
عینک‌های هوشمند و دوربین‌های پوشیدنی
متا و گوگل در دسته عینک‌ها پیشرو هستند. عینک‌های مِتا رِی-بن عکس، ویدیو و صدا را با دستور یا از طریق محرک‌های هوش مصنوعی ثبت می‌کنند. عینک‌های نمونه گوگل جمنای را برای تحلیل بصری بی‌درنگ یکپارچه کرده‌اند. هر دو شرکت بر پردازش روی دستگاه و کنترل‌های حریم خصوصی رو به کاربر تأکید دارند. هیچ یک از سیستم‌ها به‌طور قابل اعتماد ناظرین را در طول ضبط استاندارد مطلع نمی‌کنند. بلر کردن چهره تنها در طول تعاملات هوش مصنوعی اعمال می‌شود، نه در ضبط پیوسته.
عینک‌های مِتا رِی-بن می‌توانند هر چیزی که مالک به آن نگاه می‌کند ثبت کنند یا از هوش مصنوعی برای توصیف آن استفاده کنند. عینک‌های نمونه گوگل به‌طور مشابه از هوش مصنوعی برای تحلیل ورودی بصری در زمان واقعی استفاده می‌کنند. هر دو شرکت این دستگاه‌ها را طوری طراحی کرده‌اند که به‌قدر ممکن طبیعی به نظر برسند — غیرقابل تفکیک از عینک‌های معمولی. این نرمال‌سازی عمدی است: شرکت‌ها معتقدند دستگاه‌های نظارت محیطی که در پس‌زمینه کار می‌کنند آینده هستند. این نگرانی با اخبار اخیر درباره عامل Muse متا که دسترسی به مخاطبان و حساب‌های بانکی کاربران را درخواست کرده هم‌جهت است.
رونویسی صوتی همیشه فعال
اُدیو اینتلیجنس اپل هر اپل واچ را به یک موتور رونویسی تبدیل می‌کند. این ویژگی مکالمات را خلاصه می‌کند، اقلام اقدام را استخراج می‌کند و محتوای گفتاری را نمایه‌سازی می‌کند. دستگاه‌های بی از آمازون قدمی فراتر می‌روند — آن‌ها ضبط، رونویسی و می‌توانند دیالوگ را مستقیماً به خریدهای آمازون استور پیوند دهند. ده‌ها استارتاپ اکنون قلاده، انگشت و نشانه با قابلیت‌های مشابه شنود مداوم می‌فروشند.
ویژگی اُدیو اینتلیجنس اپل هر اپل واچ را به ماشینی تبدیل می‌کند که روز شما را ضبط یا خلاصه می‌کند. دستگاه‌های بی از آمازون این را یک مرحله جلوتر می‌برند و می‌توانند همه چیز را ضبط و رونویسی کنند، با یکپارچگی اختیاری فروشگاه آمازون تا مکالمات شما مستقیماً می‌تواند منجر به تبلیغات محصول شود.
وعده‌های فنی تنها کاربر را می‌پوشاند
هر فروشنده مستندات فنی منتشر می‌کند که رمزنگاری، استنتاج روی دستگاه و بهینه‌سازی داده را تفصیل می‌دهد. اپل از ایزوله‌سازی انکلایو امن تأکید می‌کند. متا از کنترل‌های قابل سفارشی‌سازی ابراز می‌کند. گوگل به شرایط خدمات استفاده مسئولانه ارجاع می‌دهد. آمازون ادعا می‌کند صدا خام ذخیره نمی‌شود — مگر اینکه یکپارچگی فروشگاه فعال باشد. این معماری‌ها کاربر را در برابر فروشنده و قانون‌گذاران می‌پوشانند. آن‌ها حفاظتی صفر برای غیرکاربر ارائه می‌دهند که در جریان ثبت شده است.
از اپل درباره نگرانی‌های حریم خصوصی بپرسید و آن‌ها به یک مستند فنی اشاره می‌کنند که تمام موانع فنی بین آن‌ها به عنوان شرکت و داده‌های تولید شده توسط ساعت را توضیح می‌دهد. از متا بپرسید و آن‌ها درباره تمام روش‌های سفارشی‌سازی کنترل‌های حریم خصوصی یا نحوه بلر شدن جزئیات خاص مانند چهره‌ها در تعامل با متا AI از طریق عینک‌ها صحبت می‌کنند (اما نه در طول ضبط استاندارد). گوگل همین کار را می‌کند. آمازون نیز درباره اینکه شما همیشه کنترل دارید و صدا ذخیره نمی‌شود صحبت می‌کند (هرچند اجازه می‌دهد یکپارچگی فروشگاه را فعال کنید). برخی از این راه‌حل‌ها کار بهتری در قطع دسترسی بالقوه قانون‌گذاران یا شرکت به این داده‌ها انجام می‌دهند. اما وعده‌های فنی حریم خصوصی که این شرکت‌ها روی آن‌ها تمرکز دارند تنها مصرف‌کننده و کاربر دستگاه را پوشش می‌دهند. آن‌ها هر ناظرینی را که با آن تعامل دارید و عدم توانایی آن‌ها برای خروج واقعی را نادیده می‌گیرند. هیچ حفاظت فنی برای شما به عنوان غیرکاربر این دستگاه‌ها وجود ندارد، کسی که در آن‌ها ثبت شده‌ید.
شکاف‌های قانونی و تعریف ضبط
قوانین شنود تلفنی بر اساس ایالت متغیرند. برخی رضایت همه طرفین را می‌طلبد؛ دیگران ضبط یک‌طرفه را مجاز می‌دانند. دستگاه‌هایی که قبل از حذف صدا رونویسی می‌کنند یک شکاف تعریفی را استثمار می‌کنند: آیا یک خلاصه «ضبط» محسوب می‌شود؟ قانون‌گذاران در نهایت دسترسی به رونویسی‌ها و خلاصه‌ها را اجبار می‌کنند. تاریخ نشان می‌دهد دولت‌ها هر داده‌ای که وجود داشته باشد را تعقیب می‌کنند. معماری اپل در برابر چنین تقاضاها مقاومت می‌کند؛ معماری آمازون و دیگران ممکن است نه.
با چیزی مانند اُدیو اینتلیجنس اپل و دستگاه‌های بی از آمازون، بهترین کار این است که آن‌ها را مشابه یک میکروفون همیشه در حال ضبط در نظر بگیریم، حتی اگر شرکت‌ها سعی کنند ادعا کنند «فنیاً» ضبط صدا وجود ندارد. این ابزارها همچنان اغلب از میکروفون برای ضبط صدا خام مکالمات استفاده کرده و آن را قبل از حذف صدا به خلاصه‌ها یا رونویسی‌ها تبدیل می‌کنند. پست وبلاگ گوگل اشاره می‌کند که بخش کامل استفاده مسئولانه در شرایط خدمات آن‌ها وجود دارد که کاربران باید موافقت کنند بدون اجازه دیگران ضبط نکنند یا در مکان‌های حساس. اما فقط سوال قانونی از دیدگاه کاربر نیست. قانون‌گذاران در نهایت سعی می‌کنند دسترسی به داده‌هایی که این محصولات تولید می‌کنند (چه صدا بی‌درنگ، چه خلاصه‌ها و رونویسی‌هایی که ایجاد می‌کنند) را اجبار کنند. و در حالی که برخی محصولات، مانند اُدیو اینتلیجنس اپل، برای دشوار کردن این کار مهندسی شده‌اند، هر محصولی اینطور نخواهد بود. ما از تاریخ می‌دانیم که وقتی داده وجود دارد، دولت‌ها هر کاری می‌کنند تا به آن دسترسی پیدا کنند. هیچ دلیلی وجود ندارد که فکر کنیم امروز چیزی تغییر کرده باشد.
هنجارهای اجتماعی در معرض فرسایش
نظارت پیوسته نحوه صحبت مردم را تغییر می‌دهد. خودبه‌خودی زمانی کاهش می‌یابد که هر مکالمه ممکن است به متن قابل جستجو تبدیل شود. یادداشت‌برداری در جلسه عادی است؛ تولید خلاصه هوش مصنوعی از بحث طلاق بهترین دوست عادی نیست. هیچ دستگاهی بستر را درک نمی‌کند — یک اعتراض، یک حمام، یک مطب پزشک، یک باشگاه. جاستن پین، رهبر محصول گوگل، به سی‌ان‌ان اعتراف کرد که اعلان‌های ناظر «می‌تواند عجیباً ناتوان‌کننده باشد» چون گیرندگان پاسخی قابل اقدام ندارند.
یک مشکل در پس‌زمینه وجود دارد که با راه‌حل‌های فنی یا قانونی غیرممکن است حل شود. اگر مستندسازی مخفیانه مکالمات هنجار شود، هر مکالمه خصوصی را کمتر خودبه‌خودی و باز می‌کند. این یک هنجار اجتماعی دیرین را می‌شکند که شما هر مکالمه با دوستان، خانواده، همکاران یا غریبان را ضبط و مستند نمی‌کنید. شرکت‌های سازنده این محصولات ادعا می‌کنند که آن‌ها متفاوت از ابزارهایی که از قبل داریم نیستند. شما الان می‌توانید با گوشی یا دوربین همه چیز را به راحتی ضبط کنید. حتی با دوربین نوار یا ضبط‌کننده کست هم می‌توانید. و می‌توانید مکالمات را با خودکار و کاغذ رونویسی کنید. اما این‌ها مراحل قابل اقدامی هستند که ما انجام می‌دهیم که هم نیازمند تلاش از کاربر است، و هم برای اطرافیان ما آشکار است. این موج جدید تکنولوژی نظارت غیرفعال برای تشویق نظارت مداوم و پنهان کردن استفاده خود طراحی شده است. حتی اگر به ظاهر بپذیریم، هیچ یک از این محصولات نمی‌تواند بستر اجتماعی پیچیده‌ای را که هر روز در آن حرکت می‌کنیم درک کند. ما ذاتاً می‌دانیم توافق‌های اجتماعی متفاوتی وجود دارد که وقتی در کوچه ایستاده‌ایم، در یک اعتراض، در حمام، در مطب پزشک، در باشگاه، یا در رستوران می‌بندیم. یادداشت‌برداری در جلسه کاری کاملاً عادی است. دریافت خلاصه‌ای از مکالمه با بهترین دوست درباره طلاق او عادی نیست. نظارت همیشه فعال بر مکالمات ما بار غیرقابل قبولی بر حریم خصوصی مکالمه‌هاست. گوگل به نظر می‌رسد تقریبا این مشکل را در گفتگو با سی‌ان‌ان بپذیرد وقتی آزمایش‌های خود با یک سیستم اعلان را توصیف کرد که تلفن افراد را وقتی کسی در نزدیکی ضبط می‌کند مطلع می‌سازد: «و فقط هشدار دادن به ناظرین کمکی نمی‌کند»، [جاستن پین، مدیر ارشد مدیریت محصول در گوگل] گفت. «می‌تواند عجیباً برای شما ناتوان‌کننده باشد که بگویید، «من الان چه کار باید بکنم؟»» او گفت. مشابه این رویکرد، گوگل اخیراً داده‌های جیمیل، درایو و عکس‌ها را برای تبلیغات هدفمند باز کرده که نشان‌دهنده گسترش نظارت داده‌محور است.
کانال‌های بازدارندگی و اقدامات ممکن
اپل ویژگی اُدیو اینتلیجنس را به‌صورت بتا منتشر کرد تا بازخورد دریافت کند. کاربران می‌توانند از طریق فیدبک اسیستنت نظر ارسال کنند. متا، گوگل و آمازون حلقه‌های بازخورد رسمی ندارند اما به فشار عمومی پاسخ می‌دهند. گزارش ویدیوهای سوءاستفاده در پلتفرم‌های اجتماعی پاسخگویی ایجاد می‌کند. مالکان دستگاه که این ابزارها را مفید می‌یابند باید استفاده را صریح اعلام کرده و در مکان‌های حساس رضایت بگیرند.
ساده است که به خط شرکت‌های تکنولوژی بپویید که این محصولات ناگزیر هستند، اما ما سال‌ها محصولات بخار دیده‌ایم که باید ادعاهای موفقیت آن‌ها را با دانه نمک بپذیریم. ما دسته‌های کامل محصول را در عرض چند سال بیاید و بروید دیده‌ایم، و اگر مردم این چیزها را نخواهند، شرکت‌های تکنولوژی باید تسلیم شوند. البته این به این معنی نیست که ما همه فقط باید بنشینیم و امیدوار باشیم این اتفاق بیفتد. از جانب خود، اپل ویژگی‌های اُدیو اینتلیجنس را به‌صورت بتا راه‌اندازی کرد تا بازخورد بگیرد، و ما فکر می‌کنیم ارزش دارد وقت بگذارید و فرم‌های بازخورد آن‌ها را پر کنید (یا در اپلیکیشن فیدبک اسیستنت اگر در بتا هستید) و به آن‌ها بگویید چه فکر می‌کنید. محصولاتی از دست متا، گوگل، آمازون و دیگران ممکن است سخت‌تر برای بازدارندگی باشد، اما به‌صورت مهذب و شفاف با کسانی که از آن‌ها به نحوی استفاده می‌کنند که شما را آشفته می‌کند، درگیر شدن نقطه شروع خوبی است. و اگر ویدیوهای سوءاستفاده در شبکه‌های اجتماعی دیدید که در آن‌ها از این نوع محصولات استفاده شده، آن‌ها را گزارش دهید. اگر این محصولات برای شما مفید هستند، برای اطرافیان‌تان وقتی از آن‌ها استفاده می‌کنید شفاف باشید، و تنها با رضایت و در لحظات اجتماعی که استفاده از آن‌ها منطقی است، این کار را انجام دهید.
مکالمه حریم خصوصی از «چه چیزی به اشتراک می‌گذارید» به «چه چیزی دیگران درباره شما ثبت می‌کنند» تغییر کرده است. حفاظت‌های فنی برای ناظرین وجود ندارد. راه‌حل‌های قانونی سال‌ها پس از استقرار دیر می‌کنند. اصطکاک اجتماعی افزایش می‌یابد تا هنجارها، قوانین، یا رد بازار باعث بازطراحی شود.
گفتگو