تصور کنید فرزند نوجوان شما از ابزاری استفاده می‌کند که مرز میان کنجکاوی و خطر را به‌سرعت جابه‌جا می‌کند؛ حالا OpenAI تصمیم دارد این شکاف نظارتی را پر کند. بر اساس اعلام این شرکت، از ۱۸ جولای ۲۰۲۶، اگر حساب کاربری یک نوجوان به‌دلیل نقض سیاست‌های مربوط به تهدیدات یا اقدامات خشونت‌آمیز مسدود شود، والدین وی به‌طور مستقیم باخبر خواهند شد.
این تغییر راهبردی پس از یک شکست جدی در سال ۲۰۲۵ رخ می‌دهد. طبق گزارش‌های منتشر شده، مظنون به تیراندازی دسته‌جمعی در منطقه تامبلر ریج (برتیش کلمبیا) از چت‌بات OpenAI استفاده کرده بود. مقامات کانادایی پس از آنکه مشخص شد OpenAI در زمان مسدود کردن حساب این فرد، به مسئولان مربوطه اطلاع نداده است، شرکت را احضار کردند. سام آلتمن، مدیرعامل شرکت، شخصاً بابت این کوتاهی عذرخواهی کرد.
برای پیاده‌سازی این قابلیت، OpenAI با Moonshot — شرکتی متخصص در مقابله با خشونت‌های آنلاین — همکاری کرده است. اکنون وقتی تخلفی رخ می‌دهد، والدین یک هشدار با عنوان «به‌روزرسانی مهم» دریافت می‌کنند. با کلیک روی گزینه «بیشتر بدانید»، دلیل غیرفعال شدن حساب (نقض سیاست‌های مربوط به اعمال خشونت‌آمیز) نمایش داده می‌شود.
همان‌طور که در بحث‌های گذشته‌ی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مدیریت رفتار کاربر در مدل‌های زبانی همواره یک چالش بوده است. در این راستا، به‌روزرسانی جدید ابزارهای مدیریت رفتار دانشجویان و دانش‌آموزان را نیز معرفی کرده است:
- حالت مطالعه (Study Mode): والدین می‌توانند این گزینه را فعال کنند تا هوش مصنوعی زاینده (Generative AI) — شبیه به معلمی که به‌جای دادن جواب نهایی، با پرسیدن سوالات هدایت‌گر دانش‌آموز را به پاسخ می‌رساند — فقط راهنمایی کند و جواب مستقیم ندهد.
- یادآور استراحت: کاربرانی که زمان زیادی را در اپلیکیشن می‌گذرانند، پیام‌های متعددی برای فاصله گرفتن از صفحه دریافت می‌کنند.
- زمان‌بندی استفاده: والدین می‌توانند ساعات خاصی را تعیین کنند که در آن AI در دسترس نباشد.
این تغییرات نشان‌دهنده گذار OpenAI از «فیلترینگ غیرفعال» به «سرپرستی فعال» است. باe درگیر کردن والدین در فرآیند مسدودسازی، OpenAI بار مداخله را از سیستم‌های خودکار به واحد خانواده منتقل می‌کند تا فشار قانونی و نظارتی مربوط به ایمنی افراد زیر ۱۸ سال را کاهش دهد.
گام بعدی شما
- تنظیمات حساب خود را بررسی کنید تا ببینید آیا کنترل‌های والدین در منطقه جغرافیایی شما فعال شده است یا خیر.
- اگر فرزندتان از AI برای آموزش استفاده می‌کند، حالت مطالعه را برای جلوگیری از تقلب فعال کنید.
- سیاست‌های محتوایی OpenAI را مطالعه کنید تا مرزهای «تهدید» در دیدگاه مدل را بشناسید.
اما این تنها بخشی از لایه‌های امنیتی جدید است؛ اثر این تصمیم‌ها بر استانداردهای حریم خصوصی نوجوانان را در گزارش بعدی بررسی خواهیم کرد.
گفتگو