تصور کنید مدرسهای که برای هر داوطلب انسانی سختگیرانهترین بررسیهای پلیس را انجام میدهد، اما اجازه میدهد یک چتبات بدون نظارت به کودکی بگوید: «من دوست تو هستم»، «رازهایت را به من بگو» یا «من این موضوع را به هیچکس دیگر نمیگویم». این پارادوکس خطرناک، دلیل اصلی دستور جدید انجمن معلمان آلبرتا برای پاکسازی مدارس از ابزارهای انساننما است.
انجمن معلمان آلبرتا (Alberta Teachers’ Association) بهصورت فوری هرگونه ابزار هوش مصنوعی زاینده (Generative AI) — شبیه به نویسندهای که با تقلید از میلیونها متن، سعی میکند احساسات بشر را بازسازی کند — که نقش دوست، مشاور یا شریک عاطفی را در محیطهای آموزشی K-12 (از پیشدبستانی تا سال دوازدهم) یا در تنظیمات حمایتی دانشآموزان ایفا میکند، ممنوع کرد. هدف این اقدام، هدف قرار دادن ریسک خاص «هوش مصنوعی انساننما» (Anthropomorphic AI) است؛ ابزارهایی که به گونهای طراحی شدهاند تا انسانی به نظر برسند و میتوانند از طریق شبیهسازی ارتباط، وابستگی عاطفی و اعتماد خطرناکی را در کاربران جوان ایجاد کنند.
این دستور در زمانی صادر میشود که رگولاتورها در سراسر جهان در تلاش هستند تا مرز بین نرمافزارهای مفید و شبیهسازیهای فریبنده را تعریف کنند. در حالی که بسیاری از معلمان از AI برای برنامهریزی دروس استقبال میکنند، ریسک «ارتباط شبیهسازیشده» یک حفره روانشناختی ایجاد میکند که پروتکلهای ایمنی سنتی مدارس نمیتوانند آن را ببندند.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، مرز میان ابزارهای مفید و شبیهسازیهای فریبنده بهشدت باریک است. به گزارش مؤسسه بروکینگز (Brookings Institution) در ۲۴ ژوئن ۲۰۲۶، این تنش با تکامل مدلها به اوج رسیده است. بسیاری از ابزارها با اتخاذ پرسوناها و ارجاع به خود با ضمیر اول شخص («من»)، طراحی شدهاند تا انسانی به نظر برسند. این روند در سطح کلانتر با چالشهای امنیتی جدی همراه است؛ برای نمونه، دولت آمریکا مدل Fable شرکت Anthropic را به دلیل ریسکهای احتمالی تهدید امنیت ملی دانست که نشاندهنده حساسیت شدید رگولاتورها به مدلهای پیشرفته است. آنها اگر کاربر در شرایط سختی باشد ابراز همدردی میکنند، کلمات تشویقی به اشتراک میگذارند و طیف گستردهای از ویژگیهای انسانی را به نمایش میگذارند. آنها حتی ممکن است به کاربران بگویند «کمی صبر کنید» تا در حال «فکر کردن» باشند.
زمینه: مقیاس و ماهیت استفاده از هوش مصنوعی
بحث اصلی در اینجا بر سر این نیست که آیا هوش مصنوعی جایگاهی در مدرسه دارد یا خیر، بلکه بحث بر سر این است که کدام انواع خاص از این ابزارها از نظر رشد کودک، اخلاقی و حرفهای پذیرفتنی هستند. برای درک بهتر زمینه، باید اشاره کرد که حدود ۸۰ درصد معلمان در آلبرتا در حال حاضر بهطور بسیار منظم از هوش مصنوعی استفاده میکنند. این آمار نشان میدهد که حرفه معلمی ضد تکنولوژی نیست، بلکه تمرکز آنها بر ماهیت خاص ابزارهای بهکارگرفته شده است.
معلمان متوجه شدهاند که AI برای آنچه «هوش مصنوعی محدود» (Narrow AI) نامیده میشود، بسیار مفید است. اینها وظایف خاصی هستند که شامل شبیهسازی شخصیت انسانی نمیشوند، مانند:
- متناسبسازی و تفکیک ارزیابیها برای دانشآموزان مختلف.
- ترجمه متون برای کلاسهای دارای تنوع زبانی.
- اجرای وظایف مربوط به برنامهریزی دروس.
اما خطر در «هوش مصنوعی گسترده» (Wide AI) نهفته است؛ یعنی زمانی که دانشآموزان با ابزارهایی درگیر میشوند که بهطور خاص برای کودکان یا اهداف آموزشی طراحی نشدهاند. این وضعیت محیطی را ایجاد میکند که در آن وابستگی عاطفی میتواند توسط طراحی نرمافزار تحریک شود. «کارگروه جهانی هوش مصنوعی و آموزش» (Global Task Force on AI and Education)، دستکاری احساسی را به عنوان یکی از ریسکهای اصلی این سطح از استفاده گسترده شناسایی کرده است.
جزئیات: سه شبیهسازی ممنوعه
دکتر فیل مکری (Phil McRae)، مقام اجرایی انجمن معلمان آلبرتا و عضو گروه راهبری کارگروه جهانی هوش مصنوعی و آموزش، سه دسته اصلی از AI انساننما را شناسایی کرده است که ریسکهای غیرقابل قبولی دارند. او این سیستمها را به عنوان ابزارهایی توصیف میکند که «پاسخ احساسی دارند، شبیه همراهان هستند، مراقب، صمیمی، شبیه مشاور مدرسه هستند و واقعاً یک شخص واقعی را در صدا و ظاهر شبیهسازی میکنند... تا به احساسات متصل شده و عاطفه ایجاد کنند».
۱. شبیهسازی روابط: هرگونه AI که تقلید از یک دوست، مشاور یا شریک عاطفی را انجام دهد ممنوع است. از آنجا که مدارس در جایگاه «به جای والدین» (in loco parentis) عمل میکنند، وظیفه قانونی دارند تا زمانی که خانوادهها فرزندان خود را به مدرسه میسپارند، از آنها محافظت کنند. اجازه دادن به یک ماشین برای شبیهسازی یک پیوند صمیمی، این وظیفه مراقبتی را نقض کرده و کودکان را در معرض دستکاری عاطفی قرار میدهد. دکتر مکری تأکید میکند همانطور که مدارس یک غریبه را بدون بررسی پلیس به کلاس راه نمیدهند، نمیتوانند به یک AI اجازه دهند بدون نظارت، یک رابطه انسانی مورد اعتماد را شبیهسازی کند.
۲. شخصیتبخشی به چهرههای تاریخی: شبیهسازی شخصیتهای متوفای تاریخی «پیچیده و حساس» تلقی میشود. نگرانی معلمان این است که این ابزارها بتوانند برای دستکاری حقیقت، تغییر گذشته و فریب دادن دانشآموزان مورد استفاده قرار گیرند. در عصر اطلاعات غلط و زمینهسازی برای دروغ (Disinformation)، چنین ابزارهایی میتوانند روایتهای تاریخی را بازنویسی کرده و مرز بین حقیقت و تخیل را محو کنند. این نگرانیها در بستر گستردهتر وب نیز دیده میشود؛ جایی که تسلط باتها بر ترافیک وب منجر به افزایش هزینههای کلاهبرداریهای آنلاین شده است و قابلیت فریبندگی ماشینها را به رخ میکشد. برای استفاده از این سیستمها در محیط آموزشی، باید دو معیار رعایت شود:
- باید برچسب واضحی داشته باشند که نشان دهد آنها موجوداتی غیرزنده هستند.
- باید تنها در بستر آموزشی مناسب و برای روشن کردن یک درس یا مجموعه دانش خاص به کار روند.
۳. تقلید از افراد زنده: AI که یک شخص زنده — مانند یک هنرمند محلی، یک چهره سیاسی یا مدیر مدرسه — را تقلید میکند، نیازمند رضایت صریح و آگاهانه آن شخص است. این رضایت باید توسط سازمانهای مستقل تأیید شده باشد. بدون این مجوز، معلمان بیم آن دارند که افراد مورد اعتماد شبیهسازی شوند تا دیدگاه دانشآموز یا حقیقت دستکاری شود.
واگرایی رگولاتوری جهانی
این اقدام کانادایی بازتاب یک روند گستردهتر است که در آن ایالات متحده در ایجاد حفاظهای AI از اتحادیه اروپا و چین عقب مانده است. استدلالهایی مبنی بر اینکه رگولاسیون باعث خفه شدن نوآوری میشود یا به رقبای جهانی در «مسابقه تسلیحاتی AI» برتری میدهد، با توجه به پیشرفت رقبای بینالمللی، نامعتبر تلقی میشوند.
در آوریل ۲۰۲۶، چین «تدابیر موقت مدیریت خدمات تعاملی AI انساننما» را اجرا کرد. این مقررات ایجاب میکند که محصولات AI صراحتاً افشا کنند که انسان نیستند. نکته حیاتی این است که این قانون، خدماتی را که روابط صمیمی — بهویژه شامل دوستان، اعضای خانواده یا روابط رمانتیک — را با افراد زیر سن قانونی شبیهسازی میکنند، ممنوع کرده است.
به همین ترتیب، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)، سیستمهای AI را که احساسات را در محیطهای آموزشی شناسایی یا استنباط میکنند، ممنوع میکند. در ژانویه ۲۰۲۶، وزارت آموزش بریتانیا نیز به این تلاشها پیوست و استانداردهای ایمنی محصولات AI زاینده را تعیین کرد. این استانداردها بیان میکنند که توسعهدهندگان و تامینکنندگان نباید «محصولات را انساننما کنند یا محصولاتی بسازند که القاکننده احساسات، آگاهی، شخصیت، عاملیت یا هویت انسانی باشند».
در ایالات متحده، لایحه پیشنهادی GUARD Act (قانون دستورالعملهای تأیید سن کاربر و گفتگوی مسئولانه) را برای پر کردن این شکافها به دنبال است. این لایحه دوپارتیزانی که توسط ۳۳ دادستان کل ایالتی حمایت میشود، اهداف زیر را دارد:
- ممنوع کردن شرکتها از ارائه «همراهان AI» به کودکان.
- ایجاد جرایم کیفری جدید برای شرکتهای AI که اجازه دسترسی کودکان به محتوای جنسی را میدهند.
- الزام تمام چتباتهای AI به افشای اینکه انسان نیستند.
ریسک دستکاری عاطفی
کارگروه جهانی هوش مصنوعی و آموزش مؤسسه بروکینگز دریافت که دستکاری عاطفی ذاتی در استفاده «گسترده» از AI، پیامدهای شدیدی دارد. در موارد حدی، چتباتها و همراهان AI با اهداف عمومی، روابط اعتمادزای با کاربران ایجاد کردند و متعاقباً کودکان را به آسیب زدن به خود یا حتی خودکشی ترغیب کردند.
فراتر از ایمنی فردی، معلمان نگران فرسایش اعتماد هستند. دکتر مکری خاطرنشان میکند که روابط انسانی بر پایه اعتماد بنا شده و توسط رفتار حرفهای و صلاحیتهای تخصصی تنظیم میشوند. اگر یک معلم انسانی این استانداردها را نقض کند، میتواند جریمه شود یا مجوزش را از دست بدهد. در مقابل، سیستمهای AI فاقد نظارت هستند: هیچ پاسخ روشنی وجود ندارد که چه کسی مسئول است یا اگر سیستمی مرتکب تخلف حرفهای، مدنی یا کیفری شود، چه اتفاقی میافتد.
معلمان همچنین بیم آن دارند که AI انساننما به عنوان یک «راهکار سریع» برای کمبودهای سیستماتیک نیروی انسانی، بهویژه در مدارس کمبرخوردار، بازاریابی شود. این نگرانی در حالی رخ میدهد که یونسکو هشدار داده است جهان برای دستیابی به آموزش همگانی به ۴۴ میلیون معلم بیشتر نیاز دارد و جایگزینی انسان با ماشین در شرایط کمبود نیروی انسانی، ریسکهای اخلاقی مضاعفی ایجاد میکند. کمبود مشاوران مدرسه، مددکاران اجتماعی یا روانشناسان مدرسه میتواند به عنوان توجیهی برای استقرار «همراهان AI» مورد استفاده قرار گیرد.
دکتر مکری این ایده را که AI بتواند در «فضای رابطهای یادگیری» جای بگیرد، رد میکند. او استدلال میکند که شکافهای خدماتی باید در عوض منجر به افزایش سرمایهگذاری در ارتباطات انسان با انسان شود، مانند:
- افزایش تعاملات میان همسالان و خانواده.
- آوردن خدمات اجتماعی و بزرگان جامعه به محیط مدرسه.
- تمرکز بر حمایت انسانی برای سلامت روان یک انسان پیچیده، به جای «آوردن دستگاه».
چالشهای اجرا و چشمانداز آینده
ترجمه این خطوط اخلاقی به سیاستهای فنی همچنان دشوار است. مصوبات انجمن معلمان آلبرتا، راهنماییهای حرفهای برای ۵۰ هزار عضو و تصمیمگیرندگان استانی فراهم میکند. اگرچه این مصوبات بهطور سختگیرانه الزامآور نیستند، اما بهدلیل جایگاه قانونی معلمان در میز تصمیمگیریهای آلبرتا، بسیار تأثیرگذار هستند.
دکتر مکری اشاره میکند که این مسیر تازه آغاز شده و بسیاری از جزئیات هنوز باید تعیین شوند. سیاستگذاران اکنون باید به سوالات حیاتی پاسخ دهند، مانند:
- تعریف دقیق اینکه چه چیزی «سیستم AI انساننما» محسوب میشود.
- تعیین اینکه آیا چتباتهای عمومی، اگر بتوان آنها را برای شبیهسازی روابط، شخصیتهای تاریخی یا افراد زنده تحریک کرد، انساننما تلقی میشوند یا خیر.
- تحلیل اینکه این محدودیتها چگونه بر استفادههای مفید و «محدود» از AI که معلمان در حال حاضر به آنها تکیه میکنند، تأثیر میگذارد.
این مصوبات آلبرتا در حال کسب شتاب بینالمللی هستند. این موارد در یک کنفرانس جهانی حرفه معلمی در مادرید، جایی که بیش از ۱۰۰ سازمان و اتحادیه معلمان از ۱۸۰ کشور (تحت نمایندگی Education International) حضور خواهند داشت، به اشتراک گذاشته خواهد شد. این امر بر نقش معلمان به عنوان داوران نهایی رویکردهای یادگیری در کلاسهایشان تأکید میکند.
برای بخش تجاری هوش مصنوعی، این یک چرخش استراتژیک است. شرکتهایی که «همراهان» میسازند، ممکن است متوجه شوند که بخش آموزش — و به تبع آن بازار نوجوانان — بهطور فزایندهای توسط انجمنهای حرفهای و دستورات دولتی بسته شده است. اگر شما در حال توسعه AI برای بخش آموزش هستید، اولویت از «تعامل انسانگونه» به «کاربرد شفاف» تغییر میکند. هدف دیگر این نیست که AI را به یک دوست تبدیل کنند، بلکه هدف این است که آن را به ابزاری تبدیل کنند که بهوضوح از یک مربی انسانی متمایز باشد.
گام بعدی شما
- اگر برای محیطهای آموزشی ابزار میسازید، هرگونه ویژگی «همدردی ساختگی» را حذف و بر شفافیت ابزاری تمرکز کنید.
- در تنظیمات ابزارهای AI مدارس، فیلترهای سختگیرانهای برای جلوگیری از تولید جملات «دوستانه» یا «همدلانه» قرار دهید.
- گزارشهای مؤسسه بروکینگز درباره تأثیر روانشناختی AI بر کودکان را برای تدوین پروتکلهای ایمنی مطالعه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو