اگر فکر میکنید اپلیکیشنهای اجتماعی با یک تاریخ تولد ساده، دسترسی کودکان به محتوای خطرناک را میبندند، باید بدانید رگولاتور بریتانیا دقیقاً روی همین نقطه دست گذاشته است. Ofcom اکنون در حال بررسی این موضوع است که آیا سیستمهای تخمین سن تیکتاک عملاً شکست خوردهاند یا خیر. این پرسش بخشی از یک تحقیقات گستردهتر درباره میزان پایبندی این پلتفرم به بخش ۱۲ از «قانون ایمنی آنلاین ۲۰۲۳» است؛ قانونی که شرکتها را ملزم میکند ریسکهای آنلاین برای افراد زیر سن قانونی را کاهش دهند.
این فشار نظارتی در حالی رخ میدهد که بریتانیا برای ممنوعیت دسترسی کودکان زیر ۱۶ سال به شبکههای اجتماعی از سال ۲۰۲۷ آماده میشود. همانطور که در پوشش پیشین ما دربارهی ادغام هوش مصنوعی گوگل در خدمات بریتانیا دیدیم، این حرکت بخشی از یک چرخش گستردهتر به سمت نظارت شدید بر ایمنی الگوریتمها در بازار بریتانیا است. این سختگیریها در سطح جهانی در حال گسترش است و برای مثال، جریمههای مربوط به نقض قوانین محدودیت سنی در استرالیا به ارقام چشمگیر ۹۹ میلیون دلاری رسیده است.
Ofcom بهطور مشخص اثربخشی روش «استنتاج سن» (Age Inference) را زیر سؤال برده است. این سیستم — شبیه کاردتی است که بر اساس رفتار شما حدس میزند چند سال دارید، بهجای اینکه شناسنامه بخواهد — سعی میکند سن کاربر را از روی الگوهای تعامل حدس بزند. طبق گزارش Engadget در ۱۶ ژوئیه ۲۰۲۶، Ofcom پیشتر اعلام کرده بود که استنتاج سن برای سایتهای بزرگسالان ابزاری ناکارآمد است؛ زیرا برای تشخیص کودک، باید مدتی رفتار او را مشاهده کرد و این یعنی دسترسی اولیه کودک هرگز متوقف نمیشود و سیستم نمیتواند مانع ورود اولیه شود.
ساختار ایمنی فعلی تیکتاک شامل لایههای زیر است:
- الزام به وارد کردن تاریخ تولد هنگام ثبتنام.
- تعلیق موقت کاربرانی که پس از رد شدن در چک سن، سریعاً برای ثبتنام مجدد تلاش میکنند.
- یک مدل هوش مصنوعی (AI) رفتاری که اطلاعات پروفایل و ویدیوهای منتشر شده را تحلیل میکند.
- بازبینی انسانی برای حسابهای مشکوک.
- ابزار گزارش عمومی برای شناساندن حسابهای زیر سن قانونی، حتی برای کاربرانی که خودشان پروفایل ندارند.
تیکتاک در ابتدای سال ۲۰۲۶ قوانین تأیید هویت خود را بهروزرسانی کرد تا تعهدش به حذف کودکان زیر ۱۳ سال را تقویت کند. طبق اعلام سخنگوی شرکت، این پلتفرم طی هشت سال میلیاردها دلار روی ایمنی سرمایهگذاری کرده و نسبت به رعایت قوانین کاملاً مطمئن است.
برای کاربر عادی، این یعنی روشهای «غیرفعال» شناسایی هویت در خطر هستند. اگر Ofcom به این نتیجه برسد که هوش مصنوعی در شناسایی سریع کودکان شکست میخورد یا بیش از حد کند و غیردقیق است، ثابت میشود که دادههای رفتاری جایگزین مناسبی برای چکهای سختگیرانه شناسیت (Hard ID Checks) نیستند.
میزان ریسک مالی این پرونده بسیار بالاست. بر اساس مستندات قانونی، عدم رعایت قوانین منجر به جریمههای ۱۸ میلیون پوندی (حدود ۲۴ میلیون دلار) یا ۱۰ درصد از درآمد جهانی شرکت میشود؛ هر کدام که مبلغ آن بیشتر باشد. در موارد شدید، دادگاهها میتوانند حتی دستور دهند که تبلیغکنندگان از همکاری با این ارائهدهندگان خدمات منصه را متوقف کنند تا عملیات تجاری آنها مختل شود.
این تحقیقات پس از فشارهای مشابه روی متا (Meta)، اسنپ (Snap) و رابلکس (Roblox) صورت میگیرد؛ شرکتهایی که در ماه مه متعهد شدند اقدامات سختگیرانهتری علیه سوءاستفاده از کودکان وe grooming انجام دهند. در همین راستا، کمیسیون اروپا نیز متا را متهم کرد که از مکانیسمهای اعتیادآور برای جذب کاربران نوجوان استفاده کرده است. با این حال، تیکتاک و یوتیوب در آن زمان تعهد خاصی را برای تغییرات قابل توجه نپذیرفتند. این تضاد در رویکرد پلتفرمها در حالی است که تعداد شکایات علیه شبکههای اجتماعی به دلیل آسیب به کودکان به شدت در حال افزایش است.
منتظر حکم نهایی Ofcom درباره استنتاج سن باشید، زیرا این رای احتمالاً استاندارد قانونی را برای نحوه تأیید سن در تمام پلتفرمهای اجتماعی در بریتانیا و بهطور بالقوه در سطح جهانی تعیین خواهد کرد.
گام بعدی شما
- اگر مدیر محصول هستید، بررسی کنید که آیا سیستمهای احراز هویت شما بر اساس دادههای رفتاری است یا مدارک رسمی.
- اخبار مربوط به حکم نهایی Ofcom را دنبال کنید؛ زیرا این رای تبدیل به استانداردی برای تمام پلتفرمهای اجتماعی در جهان خواهد شد.
- استراتژیهای جایگزین برای تأیید سن (مانند تحلیلهای بیومتریک) را مطالعه کنید.
اما این تنها بخشی از نبرد رگولاتورها با الگوریتمهاست؛ برای درک اینکه چگونه قوانین اتحادیه اروپا روی مدلهای زبانی اثر میگذارند، تحلیل ما درباره قانون AI Act را بخوانید.
گفتگو