آنتروپیک برای انطباق با قوانین اتحادیه اروپا به متن‌های کلود نشان‌گذاری دیجیتال

اگر امروز از کلود برای تولید گزارش‌های تجاری استفاده می‌کنید، باید بدانید که متن‌های خروجی شما به‌زودی حاوی یک امضای دیجیتال نامرئی خواهند بود. این تغییر به این معناست که تشخیص اینکه یک متن توسط هوش مصنوعی نوشته شده یا انسان، از حالت «حدس زدن» به یک «سنجش ریاضی» تبدیل می‌شود. نسخه‌های آینده‌ی کلود (Claude) متونی را تولید خواهند کرد که حاوی یک واترمارک یا نشان‌گذاری پنهان است تا دخالت هوش مصنوعی در آن‌ها شناسایی شود.

این اقدام برای انطباق با قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) صورت می‌گیرد که از ۲ اوت ۲۰۲۶، تمامی ارائه‌دهندگان مدل‌های AI که به بازار اروپا خدمات می‌دهند را موظف می‌کند محتوای تولیدشده را علامت‌گذاری کنند. این حرکت در حالی صورت می‌گیرد که رگولاتورهای جهانی برای شفافیت بیشتر در رسانه‌های سنتتیک (ساختگی) فشار می‌آورند. این فشارها به‌ویژه در حوزه‌ی توسعه نرم‌افزار مشهود است، جایی که مهلت ۲ آگوست شرکت‌ها را مجبور می‌کند تا منشأ کدهای خود را برای عبور از بازرسی‌های قانونی اثبات کنند. در حالی که ما در تحلیل قبلی خود درباره‌ی بهینه‌سازی زیرساخت‌های آنتروپیک (Anthropic) و کاهش هزینه‌های استنتاج از طریق کشینگ پرامپت اشاره کردیم، اکنون تمرکز این شرکت بر لایه‌ی حقوقی و اخلاقیِ منشأ محتوا (Output Provenance) معطوف شده است. برای یک کاربر تجاری، این یعنی متن‌های دریافتی از کلود دقیقاً مشابه امروز خواهند بود، اما یک اثر انگشت دیجیتال خواهند داشت که تنها با ابزارهای تخصصی قابل شناسایی است.

مکانیسم الگوهای پنهان

به نقل از مستندات فنی مفصلی که آنتروپیک در ۱۴ اوت ۲۰۲۶ منتشر کرد، این سامانه از نسخه‌ای از رویکرد SynthID-Text استفاده می‌کند که توسط گوگل دیپ‌مایند (Google DeepMind) توسعه یافته است. این متد متعلق به خانواده‌ای گسترده‌تر از رویکردهاست که ریشه در پیشنهادی از اسکات آرونسون در سال ۲۰۲۲ دارد. تمامی این روش‌ها یک اصل طراحی مشترک دارند: نشان‌گذاری تنها منبع تصادفی بودنِ انتخاب کلمات را تغییر می‌دهد.

یک مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — متن را توکن به توکن تولید می‌کند. هر بار که مدل می‌خواهد کلمه بعدی را انتخاب کند، لیستی از گزینه‌های محتمل را بررسی می‌کند و بر اساس متن قبلی، منطقی‌ترین یا محتمل‌ترین گزینه را برمی‌گزیند. اغلب، مدل چندین گزینه به یک اندازه معتبر برای کلمه بعدی دارد. برای مثال در جمله «هوا سرد و...»، هر دو کلمه «ابری» و «خاکستری» گزینه‌های منطقی هستند. مدل بسیار بعید است کلمه‌ای مثل «شیرین» را انتخاب کند، اما همچنین مجبور نمی‌شود از یک مترادف مبهم مثل «تاریک و غبارآلود» (nubilous) استفاده کند که در حالت عادی به کار نمی‌برد.

در حالت عادی، مدل بین این گزینه‌ها با استفاده از یک مولد اعداد تصادفی انتخاب می‌کند. اما در سیستم نشان‌گذاری، این تصادفی بودنِ دلخواه با یک «کلید» خاص جایگزین می‌شود. این کلید، در ترکیب با چند کلمه که پیش از آن آمده است، تعیین می‌کند کدام‌یک از گزینه‌های محتمل انتخاب شوند.

این فرآیند یک الگوی ریاضی ایجاد می‌کند. برای خواننده انسانی، متن همچنان طبیعی است چون انتخاب‌ها هنوز تصادفی به نظر می‌رسند — فقط منبع این تصادفی بودن تغییر کرده است. با این حال، هر کسی که کلید مربوطه را داشته باشد، می‌تواند توالی کلمات را تحلیل کند تا احتمال اینکه کلود این متن را نوشته باشد، محاسبه کند.

آنتروپیک برای ساده‌سازی این موضوع از مثال بازی مونوپولی استفاده می‌کند. تصور کنید بازیکنان بر اساس پرتاب تاس دور صفحه حرکت می‌کنند. حالا اگر تاس را با کتاب ارقام عدد پی (Pi) جایگزین کنیم — برای مثال از رقم ۱,۰۱۲,۸۴۵ بعد از ممیز شروع کنیم — حرکات بازیکنان برای خود آن‌ها همچنان تصادفی به نظر می‌رسد. اما اگر شما توالی حرکات و مقدار عدد پی را داشته باشید، می‌توانید بفهمید که بازی توسط عدد پی «نشان‌گذاری» شده است. متن‌های کلود دقیقاً به همین شکل عمل می‌کنند.

حفاظ‌های کیفی و عملکردی

طبق اعلام آنتروپیک، این فرآیند هیچ اثر عملی بر تجربه کاربر ندارد:

• عدم افت کیفیت: تست‌های داخلی نشان می‌دهد هیچ تأثیری بر خلاقیت، خوانایی یا کیفیت محتوا وجود ندارد. تفاوت بین متن نشان‌گذاری شده و نشده برای خوانندگان قابل تشخیص نیست.
• بدون هزینه اضافی: این فرآیند نیازی به توکن‌های اضافی ندارد و قیمت سرویس را افزایش نمی‌دهد.
• بدون تأخیر: اثر این سیستم بر سرعت تولید مدل (Latency) ناچیز توصیف شده است.
• حریم خصوصی: نشان‌گذاری حاوی هیچ اطلاعات شناسایی نیست. این اثر انگشت را نمی‌توان به شخص، سازمان یا جلسه چت خاصی ردیابی کرد.
• بدون کاراکتر پنهان: هیچ چیزی به متن اضافه نمی‌شود و هیچ نویسه یا کد مخفی در خروجی جاسازی نمی‌گردد.

برای تأیید این ادعاها، شرکت به پژوهش سال ۲۰۲۴ گوگل دیپ‌مایند در مجله Nature اشاره کرد. در آن مطالعه، ترافیک مدل جمینای (Gemini) که نشان‌گذاری شده بود با ترافیک بدون نشان، از طریق امتیازدهی شست بالا/پایین (thumbs-up/down) کاربران مقایسه شد و هیچ تفاوت آماری معنی‌داری مشاهده نشد. علاوه بر این، در یک مطالعه کنترل‌شده، ارزیابان انسانی که پاسخ‌های نشان‌گذاری شده و نشده را در کنار هم مقایسه کردند، هیچ تفاوتی در کیفیت ندیدند.

محدودیت‌ها و موارد خاص

نشان‌گذاری یک ابزار جنایی بی‌نقص نیست و اثربخشی آن به شدت به حجم متن موجود برای تحلیل بستگی دارد. تشخیص نشان‌گذاری در نمونه‌های کوچک به دلیل کم بودن انتخاب‌های کلمات و اطلاعات محدود، به خوبی عمل نمی‌کند. هر چه طول متن افزایش یابد، اطمینان از دخالت کلود بیشتر می‌شود.

برخی محتواها به‌طور طبیعی در برابر نشان‌گذاری مقاوم هستند:

• متون واقع‌گرایانه و فکت‌ها: در جمله‌ای مثل «مشهورترین اثر اسحاق نیوتن کتاب...»، کلمه بعدی حتماً باید «پرینسیپیا» باشد. چون این تنها پاسخ درست است، فضایی برای مدل وجود ندارد تا یک انتخاب «کم‌ریسک» انجام دهد، بنابراین نشان‌گذاری اعمال نمی‌شود.
• کدنویسی: زبان‌های برنامه‌نویسی برای اجرا به سینتکس دقیق نیاز دارند. اگر کلمه متفاوتی برای نشان‌گذاری انتخاب شود، کد خراب می‌شود. بنابراین نشان‌گذاری در کدها پراکنده است و عمدتاً روی بخش‌های اختیاری مثل کامنت‌های داخل کد اعمال می‌شود، که تأثیری بر کد تولید شده ندارد. این چالش‌های مربوط به دقت در تولید کد، دلیل اصلی تردید بسیاری از متخصصان است؛ برای مثال رابرت مارتین، نویسنده کتاب Clean Code، به دلیل همین مسائل بازبینی کدهای تولیدشده توسط AI را متوقف کرد.
• ویرایش و بازبینی: اگر کلود فقط گرامر یا نقطه‌گذاری یک متن نوشته شده توسط انسان را اصلاح کند، تعداد تغییرات اغلب برای ثبت یک نشان‌گذاری قابل تشخیص بسیار کم است. چون تقریباً تمام کلمات متعلق به انسان است، فضای کمی برای اتصال نشان‌گذاری وجود دارد.
• خروجی‌های قطعی: در مواردی مثل «۲+۲=»، بهترین انتخاب «۴» است (یا «۵» اگر درباره کتاب ۱۹۸۴ جورج اورول بحث شود). در اینجا «تلنگر» نشان‌گذاری اعمال نمی‌شود چون جایگزین به همان اندازه مناسبی وجود ندارد.

فراتر از متن: تصاویر و فایل‌ها

برای خروجی‌های غیرمتنی مثل فایل‌های .png، .jpg یا .svg، آنتروپیک استاندارد متفاوتی را اتخاذ می‌کند. به جای واترمارک، از C2PA (ائتلاف برای منشأ محتوا و اصالت) استفاده خواهد کرد.

این روش شامل افزودن یک یادداشت امضا شده به صورت رمزنگاری‌شده در متادیتای فایل است. این یک استاندارد باز صنعتی است که توسط سازندگان دوربین و نرم‌افزارهای ویرایش عکس برای ثبت منشأ تصویر استفاده می‌شود. برخلاف نشان‌گذاری متنی، این یک برچسب متادیتایی است که پیکسل‌های فایل را تغییر نمی‌دهد و داده‌های پنهان در تصویر جاسازی نمی‌کند. هر ابزار سازگار با C2PA می‌تواند آن را بخواند و آنتروپیک ابزار مخصوص خود را ارائه می‌دهد تا کاربران بتوانند فایل را در آن قرار داده و منشأ آن را بررسی کنند.

محرک‌های قانونی

این پیاده‌سازی پاسخ مستقیم به «کد رویه شفافیت محتوای تولیدشده توسط AI» است که در جولای ۲۰۲۶ توسط آنتروپیک و حدود ۱۹۰ امضاکننده دیگر پذیرفته شد.

به دلیل نبود راهکاری پایدار برای محدود کردن این ویژگی به مناطق جغرافیایی خاص، نشان‌گذاری به‌صورت جهانی اعمال می‌شود. آنتروپیک همچنین اشاره کرد مدل‌های قدیمی‌تری که پیش از ۲ اوت ۲۰۲۶ عرضه شده‌اند، در حال حاضر تحت قانون اتحادیه اروپا در دوره گذار هستند و در ماه‌های آینده قابلیت‌های نشان‌گذاری را دریافت می‌کنند.

تحلیل: پایان «تست تورینگ» برای محتوا

برای رهبران کسب‌وکار، این اتفاق به معنای تغییر از «حدس زدن» درباره تولید محتوا توسط AI به داشتن یک روش تأیید احتمالی است. در حالی که نرم‌افزارهای تشخیص AI مثل Pangram به دنبال «نشانه‌های» زبانی هستند — مانند استفاده بیش از حد از کلمه «به آرامی» یا ساختارهای خاص — نشان‌گذاری یک امضای ساختاری است.

این امر ریسک سرقت ادبی تصادفی یا گسترش اطلاعات غلط سنتتیک شناسایی‌نشده در محیط‌های شرکتی را کاهش می‌دهد. با این حال، یک بازی موش و گربه ایجاد می‌کند؛ ویرایش‌های جزئی احتمالاً نشان را کاملاً حذف نمی‌کنند، اما بازنویسی کامل که در آن هر کلمه جایگزین شود، نشان را از بین می‌برد. در آن صورت، متن دیگر را نمی‌توان «تولید شده توسط AI» توصیف کرد.

نکته مهم این است که نشان‌گذاری فقط ثابت می‌کند کلود احتمالاً در مقطعی در تولید محتوا دخالت داشته است. این سیستم نمی‌تواند بین «کلود این را نوشت» و «کلود این را به شدت ویرایش کرد» تمایز قائل شود. علاوه بر این، نمی‌تواند تأیید کند که متن توسط انسان نوشته شده یا توسط یک AI دیگر، زیرا ارائه‌دهندگان دیگر از کلیدها یا متدهای کاملاً متفاوتی استفاده می‌کنند.

پیامدهای حقوقی و مالکیت

آنتروپیک تصریح می‌کند که وجود نشان‌گذاری، مالکیت خروجی یا مسئولیت قانونی آن را تغییر نمی‌دهد. این موضوع حقوق کاربر را تحت شرایط خدمات (Terms of Service) تغییر نمی‌دهد. نشان‌گذاری صرفاً آزمونی است برای اینکه آیا کلود محتوا را تولید یا پردازش کرده است یا خیر.

گام بعدی شما

• منتظر انتشار API تشخیص نشان‌گذاری آنتروپیک باشید تا بتوانید به‌صورت برنامه‌نویسی شده، اصالت محتواهای تولیدشده توسط کلود را در سازمان خود بررسی کنید. شرکت در حال حاضر روی جزئیات پیاده‌سازی آن کار می‌کند.
• اگر در حال طراحی سیستم‌های نظارت بر محتوا هستید، استاندارد C2PA را برای فایل‌های تصویری در گردش کار خود بگنجانید.
• بررسی کنید که آیا تغییرات جزئی در متن‌های تولیدشده توسط AI می‌تواند اثر این نشان‌ها را از بین ببرد یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.