«ممنوعیت آموزش مدل‌ها با داده‌های مدارس»؛ شرط جدید مایکروسافت برای مدارس

تصور کنید داده‌های رفتاری و تکالیف فرزند شما، بدون اجازه، به سوختِ مدل‌های تجاری تبدیل شود. این کابوس اکنون برای مدارس آمریکا با یک «سپر قراردادی» متوقف شد. این سپر در واقع همان «استاندارد ملی ایمنی و حریم خصوصی هوش مصنوعی» است؛ یک توافق الزام‌آور که در ۷ سپتامبر ۲۰۲۶ امضا شد و اکنون به مدارس اجازه می‌دهد مفاد سخت‌گیرانه‌ای را در قراردادهای خود با مایکروسافت (Microsoft) بگنجانند تا از نشت داده‌ها جلوگیری کنند. این اقدام در حالی رخ می‌دهد که نبود قوانین فدرال در حوزه آموزش، خلأ بزرگی را ایجاد کرده بود و مدارس هیچ ابزار قانونی برای مقابله با غول‌های فناوری نداشتند.

همان‌طور که در تحلیل قبلی ما درباره‌ی خطرات تزریق پرامپت و فیشینگ اشاره کردیم، نگرانی معلمان از ماهیت «جعبه سیاه» هوش مصنوعی زاینده (Generative AI) — شبیه به آشپزخانه‌ای که مواد اولیه را می‌گیرد اما کسی نمی‌داند داخل دیگ چه می‌گذرد — در حال افزایش است. این توافق به طور مستقیم ریسک‌های سیستماتیک نشت داده‌ها و پروفایل‌سازی غیرمجاز در کلاس‌های درس را هدف قرار می‌دهد. برای اکثر مناطق آموزشی، این نخستین بار است که آن‌ها یک مکانیسم قانونی برای شکایت از ارائه‌دهندگان هوش مصنوعی در صورت نقض حریم خصوصی در اختیار دارند.

زمینه و ریشه‌های توافق

این استاندارد در ۹ سپتامبر ۲۰۲۶ در نیویورک توسط برد اسمیت، نایب‌رئیس و رئیس مایکروسافت، رندی واینگارتن، رئیس AFT، و مایکل مولگرو، رئیس اتحادیه معلمان نیویورک معرفی شد. این سند در واقع یک یادداشت تفاهم (MoA) الزام‌آور بین شرکت مایکروسافت و آکادمی ملی آموزش هوش مصنوعی است. اگرچه مایکروسافت اولین امضاکننده این قرارداد است، اما در متن توافق جایگاه‌های خالی برای پیوستن سایر ارائه‌دهندگان هوش مصنوعی پیش‌بینی شده است تا این استاندارد به یک norm صنعتی تبدیل شود.

این تحول نتیجه سال‌ها فشار و حمایت‌های اتحادیه‌های معلمان است. در سال ۲۰۲۴، اتحادیه AFT سندی را تحت عنوان «نرده‌های حفاظتی عقلانی برای استفاده از فناوری‌های پیشرفته در مدارس» منتشر کرد که بر اساس نه اصل محوری بنا شده بود. سپس در سال ۲۰۲۵، این اتحادیه آکادمی ملی آموزش هوش مصنوعی را راه‌اندازی کرد تا معلمان را با نحوه استفاده درست و همچنین سوءاستفاده‌های احتمالی از هوش مصنوعی آشنا کند.

رندی واینگارتن همواره منتقد ادغام بی‌رویه فناوری در آموزش بوده است. او در سخنرانی ماه می با عنوان «دستگاه‌ها پایین، چشم‌ها بالا، دست‌ها فعال»، خواستار ممنوعیت استفاده از نمایشگرها برای دانش‌آموزان پیش‌دبستانی تا کلاس دوم، ممنوعیت کامل هوش مصنوعی‌های دانش‌آموز-محور در مدارس ابتدایی و همچنین ممنوعیت چت‌بات‌های همراه اجتماعی برای تمامی افراد زیر ۱۶ سال شد. این رویکرد سخت‌گیرانه با اقداماتی نظیر ممنوعیت استفاده از هوش مصنوعی برای ۶۰۰ هزار دانش‌آموز در نیویورک هم‌سو است که پیش‌تر برای کاهش ریسک‌های آموزشی اتخاذ شده بود.

قفل داده‌ها و محدودیت‌های سخت‌گیرانه

مرکز این توافق، ۱۰ اصل الزام‌آور است. نکته کلیدی این است که پایبندی به تنها بخشی از این اصول، به معنای رعایت استاندارد نیست؛ بلکه رعایت کامل تمام ۱۰ بند الزامی است. حیاتی‌ترین قانون، ممنوعیت مطلق استفاده از «داده‌های تحت پوشش» (Covered Data) است. این داده‌ها شامل پرامپت‌ها، خروجی‌های مدل، فایل‌های آپلودشده، سیگنال‌های رفتاری و متاداده‌ها هستند که نباید برای آموزش، تنظیم دقیق (Fine-tuning) — مثل وقتی به یک پزشک عمومی، تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — یا بنچ‌مارک کردن هر مدل هوش مصنوعی به کار روند.

این ممنوعیت حتی برای داده‌هایی که پیش از امضای قرارداد جمع‌آوری شده‌اند نیز اعمال می‌شود (عطف به ماسبق) و تمامی شرکت‌های زیرمجموعه، پردازش‌کنندگان فرعی و شرکای ثالث مایکروسافت را متعهد می‌کند. این تعهد حتی پس از پایان قرارداد نیز به طور نامحدود باقی می‌ماند. برای تضمین اجرا، یک مقام ارشد در شرکت مایکروسافت باید سالانه بیانیه‌ای امضا کند و تأیید نماید که هیچ داده‌ای تحت پوشش، خارج از یک استثنای بسیار محدود برای اهداف ایمنی و امنیتی، برای آموزش استفاده نشده است.

بر اساس مستندات این استاندارد، جمع‌آوری داده‌ها فقط به موارد ضروری برای عملکرد محصول محدود می‌شود. موارد زیر صراحتاً ممنوع شده‌اند:

• ردیابی دقیق موقعیت جغرافیایی (Precise Geolocation)
• ثبت ضربات کیبورد (Keystroke Logging) و ردیابی رفتاری
• پروفایل‌سازی بلندمدت و جمع‌آوری داده‌های بیومتریک

همچنین، جمع‌آوری داده‌ها از دانش‌آموزان زیر ۱۳ سال مستلزم دریافت رضایت قابل تأیید والدین است که باید با قانون حفاظت از حریم خصوصی آنلاین کودکان (COPPA) در موارد قانونی الزامی، مطابقت داشته باشد.

مالکیت و حاکمیت داده‌ها

طبق اصل سوم، مناطق آموزشی و دانش‌آموزان مالکیت انحصاری تمام «داده‌های تحت پوشش» را حفظ می‌کنند. مایکروسافت حق فروش این داده‌ها یا استفاده از آن‌ها برای اهداف تبلیغاتی را ندارد. همچنین، تمام داده‌های تحت پوشش باید منحصراً در آمریکای شمالی یا اتحادیه اروپا ذخیره شوند تا حاکمیت داده‌ها حفظ شود.

در صورتی که یک منطقه آموزشی درخواست حذف داده‌ها را بدهد، ارائه‌دهنده موظف است ظرف ۱۸۰ روز تمام اطلاعات را از سیستم‌های فعال پاک کند. اگرچه استفاده از تلمتری‌های بدون شناسیت (De-identified Telemetry) برای اهداف امنیتی و پایداری سیستم مجاز است، اما این داده‌ها را نمی‌توان برای شخصی‌سازی، پروفایل‌سازی یا آموزش مدل‌های زاینده به کار برد.

الزامات حضور انسان در چرخه (Human-in-the-Loop)

این استاندارد تأکید می‌کند که پیش از هرگونه تصمیم‌گیری توسط سیستم هوش مصنوعی که بر وضعیت یک دانش‌آموز یا معلم اثر می‌گذارد، باید بازبینی انسانی معناداری صورت گیرد. این توافق به طور خاص ویژگی‌های «سبک همراه» (Companion-style) یا قابلیت‌های رابطه‌محور را که برای ایجاد وابستگی عاطفی بین دانش‌آموز و بات طراحی شده‌اند، ممنوع می‌کند.

قابلیت‌های عامل‌محور (Agentic) — شبیه به دستیاری که می‌تواند به‌جای شما ایمیل بزند یا خرید کند — که اقداماتی را خارج از سیستم‌های خودِ ارائه‌دهنده به نام دانش‌آموز انجام می‌دهند، باید به‌صورت پیش‌فرض غیرفعال باشند، مگر اینکه یک مدیر مجاز آن‌ها را فعال کند. علاوه بر این، ارائه‌دهندگان باید پروتکل‌های سطح بحران برای محتواهای پرخطر مربوط به خشونت یا خودزنی داشته باشند.

آکادمی ملی آموزش هوش مصنوعی، معلمان را از استفاده از هوش مصنوعی برای موارد زیر منع می‌کند:

• نمره‌دهی خودکار بدون بازبینی انسانی
• تصمیمات انضباطی یا تعیین سطح خودکار
• ارزیابی‌های روان‌شناختی و عاطفی
• نظارت رفتاری

امنیت و مکانیسم‌های اجرایی

ارائه‌دهندگان باید گواهینامه‌های مستقل و به‌روز را حفظ کنند، از جمله SOC 2 Type II، ISO 27001، ISO 27701 و ISO 42001 (یا معادل آن‌ها) و همچنین مجوز FedRAMP Moderate در صورت نیاز. مایکروسافت در یک الحاقیه ذکر کرد که هدفش دریافت گواهینامه ISO 42001 تا ۳۱ دسامبر ۲۰۲۷ است.

پروتکل‌های امنیتی شامل احراز هویت چندعاملی (MFA) اجباری، رمزنگاری و تست نفوذ سالانه توسط شرکت‌های مستقل است. در صورت تأیید یا احتمال معقول نشت داده‌ها، ارائه‌دهنده باید ظرف ۷۲ ساعت به منطقه آموزشی اطلاع دهد. همچنین، شرکت‌ها باید یک صفحه «اعتماد عمومی» (Public Trust Page) داشته باشند که هر سه ماه یک‌بار به‌روزرسانی شود و خلاصه‌ای از ممیزی‌ها و حوادث امنیتی گذشته را فهرست کند.

در صورتی که یک تخلف اساسی (Material Breach) رخ دهد و شرکت برای رفع آن اقدام نکند، اتحادیه AFT یا آکادمی می‌توانند لغو مشارکت عمومی آن شرکت در این استاندارد را اعلام کنند که ضربه شدیدی به اعتبار شرکت خواهد بود.

دسترسی‌پذیری و عدالت

ارائه‌دهندگان موظف‌اند ظرف ۱۲ ماه، بودجه یک تحلیل عدالت مستقل را تأمین کنند تا از منصفانه بودن عملکرد سیستم در میان جمعیت‌های متنوع دانش‌آموزان اطمینان حاصل شود. همچنین باید ظرف ۹۰ روز از تاریخ اجرا، راهنماهای ساده و بخش سوالات متداول (FAQ) را برای خانواده‌ها فراهم کنند.

برای جلوگیری از وابستگی به یک فروشنده (Vendor Lock-in)، تمام داده‌ها باید به‌صورت رایگان و در قالب‌های استاندارد ماشین‌خوان قابل استخراج باشند. این امر تضمین می‌کند که مدارس بتوانند بدون از دست دادن سال‌ها سوابق آموزشی، ارائه‌دهنده خود را تغییر دهند.

اجرا و گستره اثرگذاری

این چارچوب اکنون توسط مدارس عمومی شهر نیویورک، شهردار زوران ممدانی، منطقه آموزشی یکپارچه لس‌آنجلس و اتحادیه معلمان ایالت نیویورک پذیرفته شده است. این پذیرش در حالی صورت می‌گیرد که پیش از این، دو منطقه آموزشی بزرگ آمریکا استفاده از هوش مصنوعی زاینده را به طور موقت ممنوع کرده بودند تا راهکاری ایمن برای استفاده از این فناوری بیابند. طبق توافق، ارائه‌دهندگان باید این حفاظت‌ها را در صورت درخواست مشتریان ظرف ۹۰ روز، از طریق الحاقیه یا در لایسنس‌های موجود فعال کنند.

از ۱ نوامبر ۲۰۲۶، مایکروسافت این حفاظت‌ها را برای تمام مناطق آموزشی در ایالات متحده، بدون نیاز به مذاکره مجدد در قراردادها، فعال می‌کند. این توافق برای دو سال اعتبار دارد و باید به‌صورت کتبی تمدید شود. ارائه‌دهنده می‌تواند با اطلاع کتبی ۶۰ روزه از توافق خارج شود. لازم به ذکر است که ممنوعیت‌های ردیابی، شامل ابزارهای Speaker Coach یا Speaker Progress در حین فعالیت‌های گفتاری که توسط کاربر شروع شده است، نمی‌شود.

این توافق توازن قدرت را از فروشنده به مؤسسه آموزشی تغییر داد. با تبدیل این حفاظت‌ها از «دستورالعمل‌های ساده» به «مفاد قراردادی قابل اجرا»، اتحادیه‌ها در واقع یک لایه رگولاتوری خصوصی ایجاد کرده‌اند، آن هم در جایی که دولت در اقدام شکست خورده بود. رندی واینگارتن اشاره کرد که قوانین قدیمی مثل HIPAA و FERPA هرگز ظهور هوش مصنوعی را پیش‌بینی نکرده بودند و اکنون شرکت‌های فناوری باید این خلأ را با مسئولیت‌پذیری پر کنند.

برای کل صنعت هوش مصنوعی، این یک پیش‌روند منضبط است. اگر ارائه‌دهندگان دیگر مانند گوگل یا OpenAI برای رقابت در بخش دولتی مجبور به امضای شرایط مشابه شوند، عصر «آموزش با هر داده‌ای» در حوزه آموزش به پایان می‌رسد.

باید منتظر ماند و دید آیا سایر ارائه‌دهندگان بزرگ هوش مصنوعی جایگاه‌های خالی آکادمی ملی آموزش هوش مصنوعی را پر می‌کنند، یا تلاش می‌کنند برای ایجاد یک استاندارد فدرال ضعیف‌تر لابی کنند تا این قراردادهای اتحادیه‌ای را بی‌اثر کنند.

گام بعدی شما

• مدیران مدارس و توسعه‌دهندگان EdTech باید مفاد «داده‌های تحت پوشش» را در قراردادهای جدید خود بگنجانند.
• بررسی کنید آیا ابزارهای هوش مصنوعی فعلی شما قابلیت استخراج رایگان داده‌ها را دارند یا خیر.
• پروتکل‌های بازبینی انسانی را برای هر خروجی مدل که بر نمره یا وضعیت دانش‌آموز اثر می‌گذارد، مستند کنید.

اما نبرد بر سر استانداردهای فدرال تازه آغاز شده است؛ بررسی کنید آیا گوگل و OpenAI در برابر این فشارها تسلیم می‌شوند یا برای تضعیف این قراردادها لابی می‌کنند.