اتحادیه اروپا نشان‌گذاری ماشین‌خوان برای محتوای هوش مصنوعی را اجباری کرد

اگر امروز محتوایی تولید می‌کنید که مرز بین واقعیت و شبیه‌سازی را می‌شکند، باید بدانید که دوران «ناشناس ماندن» خروجی‌های هوش مصنوعی به پایان رسیده است. اتحادیه اروپا با تصویب قانون جدید، هرگونه محتوای مصنوعی را ملزم به داشتن شناسه‌ای می‌کند که ماشین‌ها بتوانند آن را بخوانند و تشخیص دهند. طبق ماده ۵۰(۲) قانون هوش مصنوعی (EU AI Act)، تأمین‌کنندگان سیستم‌های هوش مصنوعی که محتوای صوتی، تصویری، ویدئویی یا متنی تولید می‌کنند، موظف‌اند خروجی‌های خود را به‌گونه‌ای نشان‌گذاری کنند که به عنوان محتوای دست‌کاری شده مصنوعی قابل تشخیص باشد تا از فریب کاربران جلوگیری شود.

این قانون در حالی وضع شده که کمیسیون اروپا به دنبال استانداردسازی جهانی برای شناسایی جعل عمیق (Deepfake) و رسانه‌های مصنوعی است. برای کاربران عادی، این یعنی ابزارهای روزمره آن‌ها شروع به جاسازی سیگنال‌های نامرئی در هر فایل می‌کنند؛ تغییری که استانداردهای داوطلبانه صنعت را به یک الزام قانونی با جریمه‌های سخت و جدول زمانی دقیق برای اجرا تبدیل می‌کند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در منشأ داده‌ها اکنون از یک انتخاب اخلاقی به یک ضرورت حقوقی تبدیل شده است. در همین راستا، برخی از شرکت‌های پیشرو در اروپا پیش از این گام‌هایی برای پذیرش شفافیت در داده‌های آموزشی برداشته‌اند.

زمینه و چارچوب قانونی

ماده ۵۰(۲) تصریح می‌کند که راهکارهای فنی برای نشان‌گذاری باید تا حد امکان مؤثر، سازگار (Interoperable)، استوار و قابل اعتماد باشند. با این حال، تمام ابزارهای هوش مصنوعی تحت این دستورالعمل قرار نمی‌گیرند. یک استثنای خاص برای هوش مصنوعی‌هایی وجود دارد که صرفاً نقش کمکی در ویرایش‌های استاندارد ایفا می‌کنند یا داده‌های ورودی را به‌طور اساسی تغییر نمی‌دهند. به عبارت دیگر، ویرایش‌های روتین و اصلاحات گرامری در سمت امن این خط قانونی قرار دارند و نیازی به نشان‌گذاری سخت‌گیرانه ندارند.

بر اساس اعلام کمیسیون اروپا، الزامات شفافیت از تاریخ ۲ اوت ۲۰۲۶ لازم‌الاجرا می‌شوند. با این حال، خلاصه‌های حقوقی منتشر شده توسط شرکت‌های معتبری چون Gibson Dunn و Paul Weiss گزارش می‌دهند که برای سیستم‌های مولدی که پیش از ضرب‌الاجل اوت در بازار بوده‌اند، یک دوره ارفاق تا ۲ دسامبر ۲۰۲۶ در نظر گرفته شده است. علاوه بر این، یک تمدید بیشتر تا ۲ فوریه ۲۰۲۷ ممکن است به‌طور خاص برای سازگاری سیستم‌های تشخیص واترمارک (Watermark-detection interoperability) اعمال شود. لازم است ذکر شود که این تاریخ‌های دقیق توسط دفاتر حقوقی گزارش شده‌اند و باید با متن جاری قانون تطبیق داده شوند، زیرا در صفحه رسمی کمیسیون به طور صریح به این مهلت‌های خاص اشاره نشده است.

استانداردهای پیاده‌سازی فنی

تأمین‌کنندگان باید راهکارهایی را پیاده کنند که در برابر حذف مقاوم و قابل اعتماد باشند. انتظارات فنی فعلی شامل موارد زیر است:

• استفاده از متادیتای C2PA یا Content Credentials برای ردیابی دقیق منشأ و تاریخچه محتوا.
• تنظیم مقدار IPTC DigitalSourceType روی trainedAlgorithmicMedia برای تصاویر، که به عنوان حداقل الزام شناخته می‌شود.
• ترکیب واترمارک‌های اختصاصی هر فروشنده با متادیتای استاندارد برای تضمین تشخیص در محیط‌های مختلف.

اگر از پلتفرم‌های بزرگ استفاده می‌کنید، این نشان‌گذاری توسط شرکت سازنده انجام می‌شود. مسئولیت اصلی شما این است که از حذف این داده‌ها از طریق گرفتن اسکرین‌شات، رمزگذاری مجدد (Re-encoding) یا استفاده از بهینه‌سازهای تصویری که متادیتای فایل را پاک می‌کنند، خودداری کنید. اما اگر یک خط لوله اختصاصی (Custom Pipeline) با استفاده از API مدل‌ها ساخته‌اید، شما در جایگاه «تأمین‌کننده» قرار می‌گیرید و موظف هستید مانیفست C2PA را هنگام خروجی گرفتن ضمیمه کنید. این رویکرد با دسته‌بندی‌های عملیاتی مؤسسه NIST برای مهار مخاطرات هوش مصنوعی تولیدی همسو است.

جزئیات گردش‌کار (Workflow)

برای حفظ انطباق کامل در گردش‌کارهای حرفه‌ای و تعامل با مشتریان، این سه گام ضروری است:

۱. شناسایی ابزار: ثبت دقیق ابزار و ویژگی خاصی که برای تولید محتوا به کار رفته است.
۲. تفکیک نوع خروجی: یادداشت کنید که آیا محتوا کاملاً توسط AI تولید شده یا فقط توسط آن بهینه‌سازی شده است (AI-assisted)، زیرا این دو حالت انتظارات قانونی متفاوتی دارند.
۳. تأیید فایل نهایی: بررسی کنید که فایلی که در نهایت منتشر می‌کنید، پس از عبور از سیستم‌های مدیریت محتوا (CMS) یا شبکه‌های توزیع محتوا (CDN)، همچنان سیگنال منشأ را حفظ کرده باشد.

افشا و برچسب‌گذاری

نکته بسیار مهم این است که متادیتای نامرئی برای محتواهایی که افراد، مکان‌ها یا رویدادهای واقعی را به‌صورت واقع‌گرایانه به تصویر می‌کشند، کافی نیست. این نوع محتواها نیازمند یک برچسب افشای بصری و آشکار هستند. کمیسیون اروپا مجموعه‌ای از آیکون‌های رسمی را منتشر کرده است که استقراردهندگان (Deployers) می‌توانند برای اطلاع‌رسانی تولید مصنوعی به کاربر نهایی از آن‌ها استفاده کنند. این الزام یادآور اقدامات مشابه در یوتیوب است که برچسب‌های شناسایی را برای محتواهای تولید شده با هوش مصنوعی به کار گرفته است.

در رابط‌های چت‌بات، افشا باید درون خود ویجت چت رخ دهد. به نظر ما، compliantترین روش، قرار دادن یک اعلان در هدر (Header) و معرفی بات به‌عنوان هوش مصنوعی در اولین پیام است، نه پنهان کردن این افشا در لینک‌های فوتر.

این قوانین بار عملیاتی جدیدی بر دوش توسعه‌دهندگانی می‌گذارد که پیش از این متادیتای فایل‌ها را اختیاری می‌دانستند. یادداشت شرکت Paul Weiss اشاره می‌کند که کمیسیون هنوز هیچ تک‌تکنیکی را شناسایی نکرده که تمام استانداردهای سخت‌گیرانه را به‌تنهایی برآورده کند؛ بنابراین رویکرد چندلایه (Multi-layered approach) تنها راه ایمن است.

برای یک تولیدکننده محتوا، خروجی «پاک» از یک تصویر AI اکنون یک ریسک حقوقی است. حذف سیگنال‌های منشأ می‌تواند توزیع‌کننده را در صورتی که محتوا «پرخطر» یا «واقع‌گرایانه» تشخیص داده شود، متخلف از تعهدات شفافیت کند.

اگرچه کمیسیون در ژوئن ۲۰۲۶ یک «کد رویه داوطلبانه» (Code of Practice) برای شفافیت محتوای AI منتشر کرد، اما این کد جایگزین قانون نیست. این کد دو بخش دارد: یکی برای تأمین‌کنندگان در مورد نشان‌گذاری و تشخیص، و دیگری برای استقراردهندگان در مورد برچسب‌گذاری جعل‌های عمیق و متون تولید شده توسط AI. امضای این کد به تأمین‌کنندگان کمک می‌کند تا انطباق خود را اثبات کنند، اما الزامات ماده ۵۰ همچنان تعهدات قانونی الزام‌آور هستند.

گام بعدی شما

• خط لوله‌های خروجی (Export Pipelines) خود را ممیزی کنید تا مطمئن شوید مانیفست‌های C2PA به‌طور تصادفی پاک نمی‌شوند.
• در صورت استفاده از CDN، تنظیمات ذخیره‌سازی را به‌گونه‌ای تغییر دهید که متادیتای فایل‌های تصویری و صوتی حفظ شود.
• برای محتواهای واقع‌گرایانه، آیکون‌های رسمی اتحادیه اروپا را در طراحی رابط کاربری خود بگنجانید.

اما چالش اصلی، توانایی مدل‌های آینده در دور زدن این نشان‌هاست — به تحلیل ما درباره‌ی حملات خصمانه به واترمارک‌ها مراجعه کنید.