اگر فرزند شما نوجوان است، در حال حاضر تنها سد دفاعی او در برابر خطرات هوش مصنوعی، نظارت مستقیم شماست. OpenAI اکنون می‌خواهد این بار سنگین را از روی دوش والدین بردارد و به یک نهاد نظارتی جهانی منتقل کند.
این پیشنهاد در آستانه‌ی نشست G7 در اواخر ژوئن ۲۰۲۶ در شهر اویان فرانسه مطرح شده است. یادگیری کار با AI اکنون شبیه به الفباست؛ همان‌طور که در گذشته برای یادگیری خواندن و نوشتن به معلمان آموزش‌دیده نیاز داشتیم، امروز هم برای دسترسی ایمن به هوش مصنوعی زاینده (Generative AI) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — به چهارچوب‌هایی متناسب با سن نیاز است. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی رگولاتسیون مدل‌های زبانی اشاره کردیم، مدیریت ریسک در مقیاس جهانی بدون یک مرکز هماهنگ غیرممکن است.
بر اساس مستندات این شرکت، مؤسسه‌ی بین‌المللی ایمنی جوانان باید تحقیقات و شواهد را میان دولت‌ها و جامعه‌ی مدنی هماهنگ کند. OpenAI طبق اعلام خود، چهار گاردریل (حفاظ) عینی را مطالبه می‌کند:
- استفاده از تخمین سن با حفظ حریم خصوصی برای شناسایی افراد زیر سن قانونی.
- انجام ارزیابی‌های سالانه‌ی ریسک ایمنی برای کاربران نوجوان توسط ارائه‌دهندگان.
- تعبیه ابزارهای کنترل والدین برای مدیریت حافظه، داده‌ها و محدودیت زمانی.
- ممنوعیت کامل تبلیغات هدفمند برای کودکان.
این شرکت در حال حاضر این ایده‌ها را در کشورهای شریکی مثل استونی، یونان و سنگاپور آزمایش می‌کند. به‌گزارش منابع داخلی، OpenAI همچنین با فدراسیون معلمان آمریکا همکاری می‌کند تا این ابزارها را بر اساس نیازهای واقعی کلاس‌های درس طراحی کند.
این اقدامی فراتر از مسئولیت اجتماعی است و یک شطرنج استراتژیک محسوب می‌شود. OpenAI با پیشنهاد یک مؤسسه جهانی، می‌خواهد از تکه‌تکه شدن قوانین ملی کشورهای مختلف جلوگیری کند. اگر این شرکت بتواند اکنون استانداردهای پایه را تعریف کند، در واقع قوانین بازی را برای کل صنعت دیکته کرده است.
گام بعدی شما
- نتایج مجمع OpenAI در پاریس را دنبال کنید تا ببینید آیا این اهداف به استانداردهای اجرایی تبدیل می‌شوند یا خیر.
- ابزارهای کنترل والدین فعلی در مدل‌های زبانی را بررسی کنید تا شکاف‌های امنیتی را بشناسید.
- اگر توسعه‌دهنده هستید، متدهای تخمین سن بدون افشای هویت را در اسناد فنی مطالعه کنید.
اما تأثیر این استانداردها بر رقابت با مدل‌های متن‌باز، ابهامات بیشتری دارد — در گزارش بعدی به بررسی این تقابل خواهیم پرداخت.
گفتگو