تصور کنید میلیونها کودک در سراسر جهان، بدون هیچ نظارتی، حساسترین تصمیمات زندگی یا تکالیف مدرسهشان را به دست الگوریتمهایی سپردهاند که برای بزرگسالان طراحی شدهاند. این واقعیت تلخ، هستهٔ مرکزی تحلیل جدید یونیسف (UNICEF) است که در ۳۰ ژوئن ۲۰۲۶ منتشر شد.
بر اساس این گزارش، بیش از ۲۰ میلیون کودک در دنیا از ابزارهای هوش مصنوعی استفاده میکنند. این رشد سریع، یک شکاف امنیتی خطرناک ایجاد کرده است؛ چراکه سیستمهای حفاظتی نمیتوانند با سرعت تکامل این فناوری پیش بروند. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، سرعت پذیرش ابزارها همیشه از سرعت تدوین قوانین پیش میتازد. این وضعیت با هشدار گزارش سازمان ملل مبنی بر پیشی گرفتن سرعت رشد قابلیتهای هوش مصنوعی از سیستمهای نظارتی جهانی همسو است.
این موج پذیرش درست چند روز پیش از «گفتگوی جهانی دربارهٔ حکمرانی هوش مصنوعی» که قرار است ۶ و ۷ جولای در ژنو برگزار شود، شدت گرفته است. در حالی که بزرگسالان با احتیاط پیش میروند، کودکان هوش مصنوعی را به زندگی اجتماعی و تحصیلی خود گره زدهاند؛ شبیه به یک «تب طلا» دیجیتال که آسیبپذیرترین کاربران، نخستینe وارد میدان شدهاند.
یونیسف در مطالعهای که دادههای ۱۰ کشور را بررسی کرده، الگوهای هشداردهندهای را افشا کرده است:
- آموزش و یادگیری: حدود ۱۳ میلیون کودک از هوش مصنوعی زاینده (Generative AI) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — برای تکالیف یا یادگیری عمومی استفاده میکنند. این اتکای شدید به ابزارها در حالی رخ میدهد که برخی مراکز آموزشی، مانند انجمن معلمان آلبرتا، شبیهسازی روابط انسانی در مدارس را به دلیل ریسکهای اخلاقی ممنوع کردهاند.
- مشاوره شخصی: ۲ میلیون کودک (تقریباً یک نفر از هر ۱۰ شرکتکننده) برای دریافت توصیه در موقعیتهای دشوار زندگی به این مدلها روی آوردهاند.
- سرعت پذیرش: کودکان سه برابر سریعتر از بزرگسالان این ابزارها را پذیرفتهاند.
طبق اعلام این سازمان، ترس در کنار استفاده در حال رشد است. یکسوم کودکان بررسیشده نگرانند که هوش مصنوعی برای پخش اخبار جعلی یا کلاهبرداری استفاده شود. نگرانکنندهتر اینکه ۲۵٪ کودکان میترسند تصاویر یا ویدیوهای آنها به جعل عمیق (Deepfake) — ساخت ویدیوهای جعلی و بسیار واقعگرایانه با چهره یا صدای دیگران — تبدیل شود.
برای دنیای کسبوکارهای فناوری و سیاستگذاران، این یعنی چارچوبهای قانونی فعلی منسوخ شدهاند. اکثر قوانین ایمنی برای بزرگسالان نوشته شده و آسیبپذیریهای شناختی و عاطفی کودکان را نادیده میگیرند. این خلأ، ریسک حقوقی بزرگی برای توسعهدهندگان و خطری جدی برای خانوادههاست.
به گزارش یونیسف، اکنون یک پاسخ چهارجانبه لازم است: سرمایهگذاری در پژوهشهای رشد شناختی، تقویت قوانین علیه خشونتهای جنسی تسهیلشده توسط هوش مصنوعی، اجرای استانداردهای شفافیت بالاتر و گسترش زیرساختهای دیجیتال برای جلوگیری از شکاف جدید آموزشی. این نیاز به زیرساختها در حالی مطرح میشود که یونسکو بر کمبود شدید معلمین برای دستیابی به آموزش همگانی تا سال ۲۰۳۰ تأکید دارد.
اگر این فناوری درست مدیریت شود، میتواند موتور قدرتمندی برای آموزش شخصیسازیشده باشد. اما بدون این حفاظها، دوران کودکی توسط الگوریتمهایی بازنویسی میشود که هیچکس آنها را نظارت نمیکند.
گام بعدی شما
- اگر والد یا مدرس هستید، ابزارهایی که کودکانتان استفاده میکنند را شناسایی کرده و با آنها دربارهٔ «توهمات» مدلها گفتگو کنید.
- خروجیهای گفتگوی ژنو در هفته جاری را دنبال کنید تا ببینید کدام استانداردهای ایمنی برای کودکان تصویب میشود.
- از ابزارهای تشخیص محتوای تولیدشده توسط هوش مصنوعی برای آموزش تفکر انتقادی به کودکان استفاده کنید.
این تنها بخشی از چالشهای اخلاقی است؛ اثر این ابزارها بر کاهش تواناییهای استدلالی کودکان را در گزارش بعدی بررسی خواهیم کرد.
گفتگو