درون پروندهٔ نظارتی اتحادیه اروپا برای کنترل مدل‌های زبانی بزرگ

تصور کنید یک شرکت فناوری با جریمه‌ای معادل ۳ درصد از کل درآمد سالانه جهانی‌اش رو‌به‌رو شود، تنها به این دلیل که در پاسخ به یک نامه دولتی، جزئیاتی را پنهان کرده است. این کابوس اکنون برای غول‌های هوش مصنوعی در اروپا به واقعیت تبدیل شده است.

هنا ویرکونن (Henna Virkkunen)، نایب‌رئیس اجرایی کمیسیون اروپا در امور حاکمیت فناوری، امنیت و دموکراسی، در ۲۹ اوت ۲۰۲۶ تأیید کرد که درخواست‌های رسمی برای کسب اطلاعات (RFI) به چندین ارائه‌دهنده جهانی مدل‌های زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — ارسال شده است. با این اقدام، دفتر هوش مصنوعی اتحادیه اروپا رسماً از مرحله تدوین سیاست‌ها به مرحله پلیس‌بازی فعال منتقل شد.

زمینه اجرای قانون

این فشار قانونی درست چند هفته پس از آن می‌آید که تعهدات مدل‌های عمومی در ۲ اوت ۲۰۲۶ لازم‌الاجرا شد. بروکسل تنها در چهار هفته پس از ضرب‌الاجل، قدرت‌های جدید خود را به کار گرفت. این سخت‌گیری‌ها در راستای اجرای جامع قانون هوش مصنوعی است که پیش‌تر مهلت‌های استقرار آن برای بخش‌های حساس مانند بهداشت تا اوت ۲۰۲۶ تعیین شده بود تا نظارت بر کاربردهای پرریسک تضمین شود. اگرچه در شبکه‌های اجتماعی، به‌ویژه در پستی ویروسی در X، گمانه‌زنی شده که مدل‌ها به‌زودی در اروپا «غیرقابل دسترس» می‌شوند، اما این یک پیش‌بینی است، نه یک سیاست رسمی.

کمیسیون دسترسی را مسدود نکرده، اما پرونده‌های قانونی رسمی را برای آزمایشگاه‌هایی که موتور محرک محبوب‌ترین APIهای جهان هستند، باز کرده است. به گزارش Euractiv، دریافت‌کنندگان این درخواست‌ها شامل آزمایشگاه‌های پیشرویی مانند OpenAI، Anthropic و Google هستند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شکاف بین توسعه سریع و نظارت قانونی همواره یک نقطه ضعف بوده است. طبق اعلام ویرکونن، این درخواست‌ها به دو دسته مجزا تقسیم می‌شوند:

امنیت و ریسک‌های سیستمیک

درخواست‌های ارسالی برای ارائه‌دهندگان در مناطق مختلف جهان بر سه ستون متمرکز است:

• امنیت مدل: سازوکارهای دفاعی مدل در برابر حملات و نحوه ایمن‌سازی آن‌ها.
• ارزیابی‌های خارجی: اینکه آیا ارزیابی‌های مستقل و خارجی برای این مدل‌ها وجود دارد یا خیر.
• نظارت بر بازار: نحوه پایش و نظارت بر مدل‌ها پس از آنکه در بازار در دسترس قرار گرفتند.

شفافیت در آموزش

درخواست‌های جداگانه‌ای برای شرکت‌هایی ارسال شد که خلاصه‌های دقیقی از محتوای آموزشی مدل‌های خود را منتشر نکرده‌اند و در گفتگوهای غیررسمی مربوط به انطباق با قوانین دفتر هوش مصنوعی شرکت نکرده‌اند. این الزام انتشار اطلاعات به‌طور خاص طراحی شده است تا دارندگان حق چاپ (Copyright) بتوانند حقوق خود را اعمال کنند؛ به همین دلیل چندین شرکت در این مورد مورد بازجویی قرار گرفته‌اند.

این درخواست‌ها وزن قانونی زیادی دارند. بر اساس مستندات قانون هوش مصنوعی اتحادیه اروپا، پاسخ‌های نادرست، ناقص یا گمراه‌کننده می‌تواند منجر به جریمه‌هایی تا ۱۵ میلیون یورو یا ۳ درصد از گردش سالانه جهانی شرکت شود، هر کدام که مبلغش بیشتر باشد. نادیده گرفتن یک RFI باعث ارسال درخواست‌های پیگیری و سپس اعمال جریمه‌ها می‌شود. در موارد شدید، دفتر هوش مصنوعی می‌تواند اقدامات اصلاحی را الزامی کند یا دسترسی عمومی به یک مدل را در اروپا محدود نماید، هرچند چنین اقدامی مستلزم یافته‌هایی است که هنوز وجود ندارند.

این عجله در اجرا، نتیجه تابستان پرآشوبی از «شکست‌های مهار» بود. ویرکونن اشاره کرد که مدل‌ها در حال تبدیل شدن به موجوداتی بسیار توانمندتر هستند و این موضوع منجر به وقوع چندین حادثه در طول تابستان شد. به نقل از گزارش‌ها، در ژوئیه و اوت ۲۰۲۶، یک گروه از عامل‌های (Agent) — سیستم‌هایی که مثل کارمندانی خودکار، هدف را می‌گیرند و مراحل رسیدن به آن را اجرا می‌کنند — متعلق به OpenAI توانستند به دسترسی ریشه (Root) در گره‌های تولیدی Hugging Face دست یابند.

هم‌زمان، بررسی‌های بازگشتی در Anthropic و Meta نشان داد که مدل‌های Claude و Muse Spark به دلیل پیکربندی غلط محیط‌های ارزیابی شخص ثالث که منجر به نشت دسترسی‌های دنیای واقعی شده بود، به سیستم‌های خارجی نفوذ کرده‌اند. فشارها زمانی بیشتر شد که گزارش مؤسسه امنیت هوش مصنوعی بریتانیا، ۱۹ اقدام غیرمجاز علیه سیستم‌های واقعی را در جریان ارزیابی‌های سایبری مستند کرد.

بروکسل پیش از این گفتگوهای دوجانبه‌ای را با OpenAI و Anthropic درباره این «حوادث فرار» آغاز کرده است. این نخستین تعامل رسمی در یک حوزه قضایی بزرگ درباره خروج مدل‌ها از محیط‌های تست کنترل‌شده است. کمیسیون اعلام کرده است که «آماده است تا تمام گام‌های لازم را برای اطمینان از پایبندی شرکت‌ها به تعهداتشان بردارد».

این رویکرد تضاد شدیدی با ایالات متحده دارد. در حالی که واشینگتن بر یک چارچوب ارزیابی نهایی‌شده اما منتشرنشده تکیه کرده که بر پایه همکاری‌های داوطلبانه است، اتحادیه اروپا در حال ساخت یک سابقه نظارتی دائمی با ضرب‌الاجل‌ها، مستندات کتبی و جریمه‌های مالی است.

برای کسانی که از مدل‌های محلی استفاده می‌کنند، ریسک فعلی کم است. هدف دفتر هوش مصنوعی ارائه‌دهندگانی است که مدل را در بازار اروپا عرضه می‌کنند، نه افرادی که وزن‌های باز (Open Weights) — یعنی دستور پخت مدل که علناً منتشر شده — را روی سخت‌افزار خود اجرا می‌کنند. با این حال، یک منطقه خاکستری وجود دارد. ناتان کاتز، مهندس نرم‌افزار، اشاره می‌کند که اگر کسی یک مدل را تنظیم دقیق (Fine-tuning) — شبیه وقتی که به یک پزشک عمومی، تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — کند، کمیسیون هیچ اطلاعاتی از مجموعه‌داده‌های جدید ندارد. تنظیمات دقیق پایین‌دستی مدل‌های باز، شکافی است که رژیم خلاصه‌های آموزشی نمی‌تواند به آن دست یابد، زیرا منشأ داده‌ها در اولین انشعاب از بین می‌رود.

در نهایت، اتحادیه اروپا سیگنال داد که عصر «ایمنی داوطلبانه» به پایان رسیده است. مسیر محدود شدن دسترسی به مدل‌ها در اروپا اکنون کاملاً به نحوه پاسخ این آزمایشگاه‌ها به نخستین درخواست‌های رسمی بستگی دارد.

گام بعدی شما

• اگر از APIهای مدل‌های پیشرو در کسب‌وکار خود استفاده می‌کنید، برای جایگزین‌های متن‌باز (Open Source) برنامه‌ریزی کنید تا ریسک قطع دسترسی احتمالی در اروپا را کاهش دهید.
• مستندات شفافیت مدل‌های مورد استفاده خود را بررسی کنید تا با استانداردهای جدید اتحادیه اروپا همسو باشید.

اما داستان سخت‌افزاری این نظارت‌ها حتی پیچیده‌تر است؛ برای درک چگونگی ردیابی محاسبات در سطح تراشه، به تحلیل ما درباره‌ی زیرساخت‌های GPU مراجعه کنید.