تصور کنید فرزند نوجوان شما در محیطی که به نظر خصوصی می‌رسد، با یک هوش مصنوعی درباره‌ی افکار تاریکش صحبت می‌کند و در همان لحظه شما یک هشدار حیاتی دریافت می‌کنید. این دیگر یک سناریوی تخیلی نیست؛ متا اکنون از ابزارهایی استفاده می‌کند که مرز بین حریم خصوصی و ایمنی را برای نوجوانان تغییر می‌دهد.
این لایه‌ی ایمنی در حالی معرفی می‌شود که رگولاتورها فشار شدیدی بر غول‌های شبکه‌های اجتماعی برای محافظت از несоخیلان وارد می‌کنند. این فشارها در حالی شدت می‌یابد که کمیسیون اروپا متا را به استفاده از مکانیسم‌های اعتیادآور برای جذب کاربران نوجوان متهم کرده است. همان‌طور که در تحلیل قبلی ما درباره‌ی تغییر مسیر متا به سمت زیرساخت‌های اختصاصی اشاره کردیم، این شرکت اکنون از استک داخلی خود برای نظارت بر رفتارهای پرخطر استفاده می‌کند. در این رویکرد، هوش مصنوعی زاینده (Generative AI) — شبیه به یک نگهبان شب‌زنده‌دار که هر لحظه تمام اتاق‌ها را می‌پاید — جایگزین روش‌های قدیمی اشتراک‌گذاری غیرفعال منابع شده است.
طبق گزارش Engadget که در ۱۶ ژوئیه ۲۰۲۶ منتشر شد، این سامانه را بر اساس یک مدل نظارتی ترکیبی پیاده‌سازی شده است:
- تشخیص ماشینی: سامانه‌ای اختصاصی الگوهای گفتگوی پرخطر را شناسایی می‌کند.
- بازبینی انسانی: کارکنان متا پیش از ارسال هرگونه اعلان، تمام چت‌های علامت‌گذاری‌شده را به‌صورت دستی بررسی می‌کنند تا از ایجاد پانیک یا ترس بی‌مورد جلوگیری شود.
- سوگیری پیش‌گیرانه: اگر بازبین انسانی حتی در مورد قصد کاربر تردید داشته باشد، باز هم هشدار برای والدین ارسال می‌شود.
بر اساس مستندات متا، این ویژگی در حال حاضر برای کاربران بخش نظارت والدین در اینستگرام در کشورهای آمریکا، انگلیس، استرالیا و کانادا فعال است و برنامه‌ریزی شده تا پایان سال ۲۰۲۶ برای تمام والدین در سطح جهان عرضه شود. همچنین تنظیمات «محتوای محدود» اکنون شامل تعاملات با هوش مصنوعی نیز می‌شود تا تصاویر نامناسب و موضوعات حساس فیلتر شوند.
فراتر از هشدارهای والدین، متا در حال توسعه مکانیزمی است تا در صورت تشخیص خطر قریب‌الوقوع، مستقیماً با خدمات اورژانس تماس بگیرد. این اقدام مشابه تلاش OpenAI است که در مه ۲۰۲۶ قابلیت «تماس مورد اعتماد» را برای ChatGPT معرفی کرد تا کاربران بتوانند دوستی را برای مداخلات بحران معرفی کنند. همزمان با افزایش نظارت بر داده‌های حساس، کنگره آمریکا طرحی را برای ممنوعیت فروش داده‌های پزشکی کاربران چت‌بات‌ها پیشنهاد داده است تا حریم خصوصی کاربران در وضعیت‌های بحرانی تضمین شود.
برای کاربر عادی، این تحول یعنی تبدیل هوش مصنوعی از یک دستیار خصوصی به یک ابزار نظارتی. اگرچه ایمنی افزایش می‌یابد، اما انتظار نوجوانان از حریم خصوصی در تعامل با مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — به‌کل تغییر می‌کند.
گام بعدی شما
- اگر فرزند شما از ابزارهای هوش مصنوعی استفاده می‌کند، تنظیمات Parental Supervision را در اینستاگرام بررسی کنید.
- تفاوت بین «نظارت ایمنی» و «جاسوسی دیجیتال» را در سیاست‌های حریم خصوصی جدید متا بخوانید.
- ابزارهایی مانند Trusted Contact در OpenAI را برای مدیریت بحران‌های احتمالی فعال کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو