تصور کنید صبحی را شروع کنید که متوجه شوید تصاویری برهنه و جعلی از شما در گروههای چت دانشآموزان دستبهدست میشود. برای بسیاری از معلمان در آمریکا و انگلیس، این کابوس به واقعیت تبدیل شده است.
لوئیس دسانتیاگو (Luis DeSantiago)، معلم جایگزین در کالیفرنیا، در ۱۲ مارس متوجه شد که دانشآموزان با استفاده از هوش مصنوعی زاینده (Generative AI) — ابزاری شبیه به یک نقاش دیجیتال که میتواند هر تصویری را بر اساس دستورات ما بازسازی کند — تصاویری جنسی از او ساختهاند. دسانتیاگو در آن زمان در یک کافه به صورت پارهوقت کار میکرد که یکی از همکارانش (یک باریستا) به او اطلاع داد که عکسی با هوش مصنوعی در شبکههای اجتماعی در حال گردش است؛ پسرخاله آن باریستا میخواست بداند آیا آن شخص واقعاً اوست یا خیر. این تصاویر که از یک سلفی قدیمی دوران کالج او گرفته شده بود، او را در لباسهای تحریکآمیز و ژستهای جنسی نشان میداد و در تیکتاک و اسنپچت پخش شده بود. دسانتیاگو این لحظه را به «ضربهٔ سخت به شکم» تشبیه میکند. این پرونده بخشی از یک روند رو به رشد است که در آن هوش مصنوعی زاینده در محیط کلاسها برای تحقیر مربیان به سلاح تبدیل شده است.
این موج از آزارها در حالی رخ میدهد که دسترسی به ابزارهای تولید تصویر برای نوجوانان بسیار ساده و پیشپاافتاده شده است. برخی گزارشها نشان میدهند که بخش بزرگی از درخواستهای ابزارهای ویرایش تصویر در پلتفرمهایی مانند Hugging Face ماهیت جنسی دارند که دسترسی آسان به این مدلها را تایید میکند. اگرچه مدارس سالها با قلدرمآبی سایبری (Cyberbullying) دستوپنجه نرم کردهاند، اما توانایی ساخت تصاویر واقعگرایانه و غیررضایتی (NCII)، تروماهای روانی جدیدی ایجاد کرده است. این ابزارها یک شوخی ساده دانشآموزی را به یک جرم احتمالی فدرال تبدیل میکنند. طبق گزارش وایرد (WIRED)، این اقدامات اکنون تحت قانون «Take It Down Act» میتواند یک جرم فدرال محسوب شود، زیرا انتشار تصاویر صمیمانهٔ ساختهشده توسط کامپیوتر را جرم میشناسد. این قانون هم تصاویر واقعی و هم «تصاویر بصری صمیمانه» تولید شده توسط کامپیوتر را پوشش میدهد.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای مولد اشاره کردیم، سرعت تکامل ابزارها همیشه از قوانین نظارتی جلوتر است. در محیط مدرسه، این شکاف امنیتی به یک سلاح برای تحقیر تبدیل شده است.
به گزارش منابع خبری، مکانیسم این آزارها معمولاً در چهار مرحله پیش میرود:
- دستکاری تصویر: دانشآموزان عکسهای عمومی یا قدیمی معلمان را میگیرند و آنها را در حالتهای جنسی بازسازی میکنند. برای مثال، دانشآموزان یک معلم در دهه ششم زندگیاش را هدف قرار دادند و با دستکاری عکسهای عمومی او، تصاویری ساختند که گویی او در حال انجام اعمال جنسی است و این عکسها را در یک گروه چت اسنپچت به اشتراک گذاشتند.
- حسابهای جعل: پروفایلهای جعلی با نام معلم (گاهی با غلطهای املایی کوچک) و عکسهای ساختهشده توسط AI ایجاد میشود تا محتوای غیراخلاقی منتشر کنند. در مورد دسانتیاگو، یک دانشآموز حسابی ساخت که از نام او و همان عکس پروفایل استفاده میکرد.
- انتشار چندپلتفرمی: محتوا ابتدا در گروههای خصوصی اسنپچت شروع شده و سپس به فضای عمومی تیکتاک میرود. در مورد دسانتیاگو، تصویر در هر دو پلتفرم گسترش یافت و منجر به ثبت نظرات رکیک و جنسی در حساب شخصی تیکتاک او شد.
- تنش حضوری: آزار دیجیتال به کلاس درس میرسد. دسانتیاگو این تجربه را در یک دبیرستان محلی داشت؛ زمانی که در حین تدریس، تصویری جعلی از خودش را از طریق AirDrop دریافت کرد. هرچند ارسالکننده سریعاً دسترسی را لغو کرد، اما این اتفاق ثابت کرد که عکسها در همان لحظه بین دانشآموزان در حال گردش است.
زمینه: خط لوله دیجیتال
برای بسیاری از مربیان، کشف این تصاویر اتفاقی است. در مورد دسانتیاگو، همه چیز با چند پیام متنی در حین کار در شغل پارهوقت دومش شروع شد. او در ابتدا تصور میکرد که عکسهای نامناسب به دلیل نقض قوانین جامعه تیکتاک سریعاً حذف میشوند.
با این حال، تداوم این تصاویر اغلب از ساختارهای اجتماعی دانشآموزان نشأت میگیرد. دسانتیاگو توانست با تحلیل پروفایلهای تیکتاک — که یکی از آنها از نام واقعی استفاده میکرد — و مشاهده افرادی که آن حساب را دنبال میکردند یا با آن تعامل داشتند (بر اساس شناختش از گروههای دوستانه دانشآموزان)، مقصران را شناسایی کند.
پاسخهای نهادی و شکستها
لوئیس دسانتیاگو مورد خود را به معاون مدرسه گزارش داد و معاون به او اطمینان داد که مدرسه «به این موضوع رسیدگی خواهد کرد». با این حال، پاسخ مدرسه پراکنده و ناقص بود. در حالی که یکی از دانشآموزانی که اعتراف کرده بود تصویر را ساخته است، به تعلیق در مدرسه محکوم شد، اما تصاویر همچنان به پخش خود ادامه دادند. دسانتیاگو به مدیر مدرسه ابراز نگرانی کرد که اگر دانشآموزان در انتشار این تصاویر به صورت عمومی راحت هستند، احتمالاً تصاویر دانشآموزان دیگر را نیز به صورت خصوصی در گروههای چت به اشتراک میگذارند. او در نامهای به مدیر نوشت: «به خاطر داشته باشید که این موضوع میتواند شامل دانشآموزان دیگر نیز باشد».
دسانتیاگو در نهایت تصمیم گرفت که دیگر احساس امنیت برای بازگشت به آن منطقه آموزشی در سال جاری را ندارد، علیرغم اینکه مدیر مدرسه پیشنهاد «تحقیقات فوری» و دسترسی به مشاور مدرسه را داده بود. او به مدیران اعلام کرد که تا زمانی که این موضوع به طور کامل حل نشود، نمیخواهد در مدرسه راهنمایی تدریس کند.
یک معلم دیگر مدرسه راهنمایی در اواوسط دهه بیست زندگیاش، حملهای پیچیدهتر را توصیف کرد. یک دانشآموز حسابی در تیکتاک ساخت که از AI برای تقلید چهره و صدای او استفاده میکرد. ویدئوها او را در حال صحبت درباره اعمال جنسی که انجام داده و از آنها لذت برده بود، نشان میداد. به دلیل اینکه چهره تولید شده توسط AI دارای یک صافی (smoothness) خاص بود و دهان به طور غیرطبیعی حرکت میکرد، برخی از دانشآموزان در ابتدا باور کردند که حساب واقعی است. او اشاره کرد برخی از دانشآموزانی که حساب را به او گزارش دادند، واقعاً فکر میکردند اوست که آن حرفها را میزند. او به آنها گفت: «او خدای من، بچهها — این من نیستم».
رفتار این دانشآموز خاص از جعل دیجیتال به آزار حضوری تبدیل شد؛ از جمله فحاشی به معلم، صدا کردن او با کلمه «سلیطه» (bitch) و گفتن «گمشو» (fuck off). این دانشآموز حتی مدیران را هدف قرار داد، در نیمهشب به معاون مدرسه زنگ زد و پیام داد و عکسهای ساخته شده توسط AI از آنها را در تیکتاک پست کرد. این آزارها تنها زمانی متوقف شد که دانشآموز به طور کامل از منطقه آموزشی خارج شد و تیکتاک حساب را حذف کرد. این معلم اشاره کرد که آن دانشآموز از قبل به داشتن مشکلات رفتاری شناخته شده بود.
فرسایش مربیگری
در انگلیس، یک مشاور کالج به نام آلیس (Alice) خیانت مشابهی را تجربه کرد. آلیس در کالجی کار میکند که به دانشجویان ۱۶ تا ۱۹ ساله در رشتههای فنی مانند ساختمانسازی آموزش میدهد. نقش او شامل ملاقات سالانه با حدود ۱۵۰ دانشجو است تا به عنوان مربی و مشاور عمل کند.
دانشجویی که او را مربی خود میدانست — کسی که آلیس با او درباره موضوعات حساسی مانند سکس ایمن، مواد مخدر و مهمانیها صحبت کرده بود — مظنون به ساخت یک ویدئوی جعل عمیق (Deepfake) از او شد. در حالی که یک ویدئو از صحبتهای او با یک دانشجو واقعی به نظر میرسید، نسخه دوم که دستکاری شده بود، او را در حال درآوردن لباسها و رقصیدن با لباس زیر یا بیکینی نشان میداد. دانشجو این عمل را انکار کرد و کمی بعد از مدرسه انصراف داد.
آلیس اشاره کرد که این حادثه او را مجبور کرد تا در مرزهای روابط حرفهای خود تردید کند. او فکر میکرد که آیا دانشجو به دلیل اعتمادی که در طول گفتگوهای خصوصیشان ایجاد شده بود، احساس کرد میتواند از خط قرمزها عبور کند. او به وایرد گفت: «این باعث میشود هر چیزی را زیر سوال ببرید». اگرچه او به کارش ادامه میدهد، اما فضای فعلی را «سرد شده» توصیف میکند و اعتراف میکند که اکنون بسیار هوشیارتر و محتاطتر با دانشجویان تعامل میکند.
شکافهای قانونی و نهادی
دونا بالمن (Donna Ballman)، وکیل بازنشسته دفاع از حقوق کارکنان، بیان میکند که این حوادث موارد واضحی از آزار جنسی در محیط کار هستند. طبق قوانین فدرال ضد تبعیض، مدارس موظفاند محیطی امن را فراهم کنند. این امر ممکن است شامل تنبیه دانشآموز یا انتقال او به کلاسی دیگر باشد.
با این حال، بالمن اشاره میکند که هیچ «نقشه راه» یا الگویی برای نحوه پاسخ مدارس به آزارهای تولید شده توسط AI وجود ندارد. او اشاره میکند که مدیران حتی مجبور نیستند به معلم قربانی بگویند که دانشآموز چگونه تنبیه شده است؛ آنها صرفاً موظفاند محیطی امن برای قربانی ایجاد کنند.
پاسخ پلتفرمها عمدتاً واکنشی باقی مانده است:
- سخنگوی اسنپ (Snap Inc)، مونیک بلامی، اظهار داشت که شرکت «فرآیندهای تثبیت شدهای» برای گزارش محتوا و سیاستهایی برای ممنوعیت محتوای AI که برای تحقیر یا آزار جنسی دیگران استفاده شود، دارد. او اشاره کرد که شرکت به توسعه ابزارهایی برای حمایت از ایمنی و حریم خصوصی جامعه ادامه میدهد.
- تیکتاک در مورد این حوادث خاص هیچ نظری به وایرد نداد.
- لوک رد (Luke Red)، معلم کلاس ششم در آریزونا، تصاویری ساخته شده توسط AI از خودش در حال بوسیدن یک معلم مرد دیگر را به تیکتاک گزارش کرد. او حسابها را به دلیل سن کمتر از ۱۳ سال گزارش داد، اما پلتفرم در حذف آنها شکست خورد. این ناتوانی پلتفرمها در کنترل محتوای جنسی AI، یادآور پروندههای مشابهی است که در آن متا برای ماهها آگهیهای جنسی کودکان تولید شده توسط هوش مصنوعی را تأیید کرده بود.
تغییر فرهنگی
برای معلمانی مانند لوک رد، نگرانی اصلی خودِ تصاویر نیست، بلکه «فرهنگ سهلگیرانه» پیرامون AI است. مدرسه رد تحقیقاتی را آغاز کرد و دانشآموز را شناسایی نمود؛ او به تعلیق سه روزه محکوم شد — که طبق دفترچه راهنمای منطقه، شدیدترین مجازات برای اولین تخلف آزار جنسی است.
با وجود این تنبیه، رد میگوید این تجربه او را وارد یک «مارپیچ روانی» کرد. او استدلال میکند که دانشآموزان به نقطهای رسیدهاند که بدون در نظر گرفتن هزینههای انسانی، در ساخت تصاویر نامناسب از مقامهای ارشد احساس راحتی میکنند. او اظهار داشت: «بدیهی است وقتی معلمان خود را در این تصاویر در حال انجام کارهای جنسی نشان میدهید، از خط قرمز عبور کردهاید».
در نهایت، رد بیشتر برای دانشآموزان متأسف است تا برای خودش. او معتقد است بسیاری از کودکان امروز نمیفهمند که اقداماتشان چگونه بر دیگران تأثیر میگذارد یا اینترنت چقدر میتواند خطرناک باشد. این تغییر در پویایی کلاس درس نشان میدهد که AI تنها روش یادگیری را تغییر نداده، بلکه درک دانشآموزان از «انسانیتِ» معلمان را نیز دگرگون کرده است. وقتی یک دانشآموز میتواند مربی خود را به صورت دیجیتالی برهنه کند یا جعل کند، پویایی سنتی قدرت در کلاس درس جای خود را به یک سلسلهمراتب دیجیتالی بیثبات میدهد.
گام بعدی شما
- اگر مدرس یا مدیر آموزشی هستید، پروتکلهای واکنش سریع برای «آزار دیجیتال» را در قوانین مدرسه بهروز کنید.
- از ابزارهای تشخیص محتوای جعلی برای تأیید صحت تصاویر مشکوک در محیطهای آموزشی استفاده کنید. البته باید توجه داشت که دقت این ابزارهای تشخیص AI در برابر واقعیتهای زبانی و عصبی نویسندگان همچنان مورد بحث است و نباید تنها منبع تصمیمگیری باشند.
- جلسات آگاهسازی درباره پیامدهای قانونی (مانند Take It Down Act) را برای دانشآموزان برگزار کنید.
اما این تنها بخشی از بحران است؛ تأثیر این ابزارها بر سلامت روان نوجوانان و گسترش پورنوگرافی غیررضایتی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو