«شفافیت محتوایی»؛ هدف آنتروپیک از به‌کارگیری واترمارکینگ در مدل‌ها

اگر امروز متنی را با Claude تولید می‌کنید، باید بدانید که هر کلمهٔ آن اکنون حاوی یک اثر انگشت دیجیتال است که هرگز پاک نمی‌شود. این تغییر، نه یک انتخاب داوطلبانه برای شفافیت از سوی آنتروپیک، بلکه پاسخی مستقیم به فشار سخت‌گیرانهٔ الزامات قانون هوش مصنوعی اتحادیه اروپا است.

آنتروپیک (Anthropic) در ۹ سپتامبر ۲۰۲۶ تغییری سیستمی را آغاز کرد و نشان‌گذاری نامرئی (Invisible Watermarking) را برای تمام پاسخ‌های مدل Claude Opus 5 فعال نمود. این اقدام پس از عرضه مدل‌های Claude Fable 5.1 و Mythos 5.1 رخ داد که از بدو تولد و زمان عرضه، این نشان را با خود داشتند. طبق اعلام شرکت، ظرف چند هفته آینده، تک‌تک مدل‌های فعلی Claude به این فناوری مجهز خواهند شد. این اجرا به‌گونه‌ای طراحی شده که کاملاً بی‌صدا و نامحسوس باشد؛ به این معنا که هیچ کاراکتر جدیدی اضافه نمی‌شود، توکن‌های اضافی مصرف نمی‌گردد و هیچ تغییری در قیمت‌گذاری، میزان تأخیر (Latency) یا فرمت‌های API ایجاد نمی‌کند. در حالی که تجربه کاربری برای یک فرد عادی کاملاً یکسان باقی می‌ماند، اما ماهیت زیربنایی متن به‌طور بنیادین تغییر کرده است.

برای درک اهمیت و وخامت این تغییر، باید به الزامات شفافیت در قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) نگاه کرد. بر اساس مستندات این قانون، از ۲ اوت ۲۰۲۶، این قانون الزام کرد که سامانه‌های هوش مصنوعی زاینده (Generative AI) — مثل دستیاری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — باید تضمین کنند که محتوای تولیدشده توسط هوش مصنوعی، به‌گونه‌ای باشد که برای ماشین قابل خواندن و شناسایی باشد. جدول زمانی آنتروپیک نشان‌دهنده پایبندی سخت‌گیرانه به این ضرب‌الاجل‌هاست. مدل‌هایی که بعد از ۲ اوت منتشر شدند، مانند Fable 5.1 و Mythos 5.1، با این واترمارک متولد شدند. اما Claude Opus 5 که درست پیش از ضرب‌الاجل، در ۲۴ ژوئیه عرضه شده بود، در ۹ سپتامبر به‌روزرسانی شد تا این قابلیت به آن اضافه شود. تا ۲ دسامبر ۲۰۲۶، تمام مدل‌های موجود باید کاملاً منطبق شوند. این استقرار جهانی تضمین می‌کند که فارغ از مکان کاربر، خروجی‌ها علامت‌گذاری شوند؛ امری که انطباق قانونی را برای آنتروپیک ساده می‌کند و استانداردی جدید برای کل صنعت ایجاد می‌نماید.

سازوکار فنی این نشان‌گذاری یک مهر بصری یا استمپ نیست، بلکه یک الگوی آماری است. مدل زبانی بزرگ (LLM) — شبیه کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — توکن بعدی را در یک توالی بر اساس توزیع احتمالات پیش‌بینی می‌کند. نشان‌گذاری با ایجاد یک سوگیری (Bias) بسیار ظریف در این احتمالات عمل می‌کند. مدل توکن‌هایی را انتخاب می‌کند که همچنان از نظر زبانی درست و از نظر متنی مناسب هستند، اما از یک الگوی شبه‌تصادفی خاص پیروی می‌کنند که فقط برای ارائه‌دهنده مدل شناخته شده است. برای یک خواننده انسانی، متن کاملاً طبیعی به نظر می‌رسد. اما برای یک ابزار تشخیص که کلید صحیح را در اختیار دارد، توزیع آماری توکن‌ها یک «امضا» را آشکار می‌کند که ثابت می‌کند متن توسط Claude تولید شده است. این روش به‌طور قابل‌توجهی قدرتمندتر از تلاش‌های پیشین برای تشخیص هوش مصنوعی است که بر تحلیل «پِرپلکسیتی» (Perplexity) یا «انفجاری بودن» (Burstiness) تکیه داشتند؛ معیارهایی که به‌راحتی با یک ویرایش ساده یا بازنویسی (Paraphrasing) دور زده می‌شدند.

با این حال، اثربخشی این نشان‌گذاری مطلق نیست. تحقیقات نشان می‌دهد که «پاک‌سازی» (Scrubbing) محتوا امکان‌پذیر است. اگر کاربر یک متن واترمارک‌شده را بردارد و از هوش مصنوعی دیگری بخواهد آن را بازنویسی کند، یا به‌صورت دستی هر کلمه پنجم را تغییر دهد، امضای آماری می‌تواند تخریب شود. با این حال، برای اکثریت قریب به اتفاق کاربردهای شرکتی و تفننی، واترمارک دست‌نخورده باقی می‌ماند. این امر یک ردپای دائمی و نامرئی از منشأ اثر ایجاد می‌کند. برای کسب‌وکارهایی که محصولات خود را بر پایه API کلود می‌سازند، این بدان معناست که هر محتوایی که تولید و منتشر می‌کنند، اکنون برچسب‌دار است. در حالی که این موضوع به مبارزه با جعل عمیق (Deepfake) و اطلاعات نادرست کمک می‌کند، پرسشاتی جدی درباره مالکیت معنوی و «مالکیت» آثار کمک‌گرفته از هوش مصنوعی ایجاد می‌کند. اگر شرکتی برای نوشتن یک گزارش سفید (White Paper) از کلود استفاده کند، آن سند اکنون یک اثر انگشت دیجیتال دارد که آن را به عنوان محصول ماشین شناسایی می‌کند، فارغ از اینکه یک ویراستار انسانی چقدر آن را صیقل داده باشد.

واکنش سایر غول‌های هوش مصنوعی ترکیبی از پذیرش و آزمایش‌های محتاطانه است. OpenAI و گوگل که هر دو سرمایه‌گذاری سنگینی در بازار اروپا دارند، به سمت چارچوب‌های مشابه حرکت کرده‌اند. اما متا (Meta) با مدل‌های Llama که وزن‌های باز (Open Weights) — یعنی دستور پخت مدل علناً منتشر شده — دارند، با چالشی پیچیده‌تر روبروست. چون وزن‌های لاما عمومی هستند، کاربران تئوریکاً می‌توانند لایه‌های نشان‌گذاری را حذف کنند یا مدل را برای حذف این سوگیری تنظیم دقیق (Fine-tuning) — مثل وقتی به یک پزشک عمومی تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — کنند. این موضوع منجر به بحثی در جامعه هوش مصنوعی شده است مبنی بر اینکه آیا نشان‌گذاری فقط برای مدل‌های بسته (Closed-source) مؤثر است یا خیر. xAI در این زمینه مبهم‌تر عمل کرده است، اما فشار اتحادیه اروپا بسیار زیاد است؛ هر ارائه‌دهنده‌ای که بخواهد در «بازار واحد» اروپا فعالیت کند، باید مطیع شود یا با جریمه‌هایی روبرو شود که می‌تواند درصد قابل‌توجهی از گردش مالی جهانی آن‌ها باشد.

در خارج از اروپا، چشم‌انداز جهانی در حال تکه تکه شدن است. ایالات متحده تا حد زیادی از دستورالعمل‌های فدرال متمرکز برای نشان‌گذاری اجتناب کرده و ترجیح داده به تعهدات داوطلبانه آزمایشگاه‌های هوش مصنوعی از طریق کاخ سفید تکیه کند. با این حال، ایالت‌های مختلف در حال بررسی قوانین شفافیت هستند. در چین، مقررات حتی از اتحادیه اروپا هم سخت‌گیرانه‌تر است و اداره فضای سایبری چین (CAC) برچسب‌گذاری صریح محتوای تولیدشده توسط هوش مصنوعی را برای جلوگیری از بی‌ثباتی اجتماعی اجباری کرده است. هند و کره جنوبی نیز در حال تدوین چارچوب‌هایی هستند که آینه رویکرد اروپا است و بر نیاز به محافظت از فرآیندهای دموکراتیک در برابر اطلاعات نادرستِ مبتنی بر هوش مصنوعی تأکید دارد. بریتانیا که سعی دارد یک نقطه تعادل «طرفدار نوآوری» پیدا کند، فعلاً از قانون‌گذاری سخت اجتناب کرده اما استانداردهایی را تشویق می‌کند که با هنجارهای بین‌المللی همسو باشد.

یکی از بحث‌برانگیزترین مسائل این است که چه کسی «کلید» تشخیص این واترمارک‌ها را در اختیار می‌گیرد. در حال حاضر، آنتروپیک و سایر ارائه‌دهندگان، کلیدهای تشخیص را خصوصی نگه داشته‌اند. این یعنی فقط ارائه‌دهنده (و شاید سازمان‌های دولتی با حکم دادگاه) می‌توانند به‌طور قطعی ثابت کنند که یک قطعه متن از مدل آن‌ها آمده است. اگر خبرنگاری بخواهد تأیید کند که یک سند لو رفته توسط هوش مصنوعی تولید شده است، نمی‌تواند خودش این کار را انجام دهد؛ او باید متن را برای تأیید به ارائه‌دهنده ارسال کند. این وضعیت یک «گلوگاه حقیقت» متمرکز ایجاد می‌کند. گروه‌های حقوق دیجیتال خواستار ایجاد نهادهای تأیید مستقل و شخص ثالث هستند تا از تبدیل شدن شرکت‌های هوش مصنوعی به تنها داوران آنچه «واقعی» یا «سنتتیک» است، جلوگیری شود.

برای کاربر نهایی، پیامدها ظریف اما عمیق هستند. ما در حال ورود به عصر «منشأ پیش‌فرض» هستیم. در گذشته، بار اثبات بر عهده متهم بود تا نشان دهد متنی توسط هوش مصنوعی تولید شده است. اکنون این بار در حال تغییر است. در دنیایی که تمام مدل‌های بزرگ نشان‌گذاری را اعمال می‌کنند، اگر متنی فاقد واترمارک باشد، ممکن است «اصیل‌تر» تلقی شود. برعکس، حضور واترمارک می‌تواند منجر به فیلتر شدن خودکار توسط موتورهای جست‌وجو یا پلتفرم‌های رسانه‌های اجتماعی شود. ممکن است آینده‌ای را ببینیم که در آن گوگل سرچ برای حفظ کیفیت و اعتماد، محتوای «تأییدشده توسط انسان» را بر محتوای واترمارک‌شده ترجیح دهد.

علاوه بر این، تأثیر روان‌شناختی نشان‌گذاری را نمی‌توان نادیده گرفت. وقتی آگاه شویم که هر کلمه از یک هوش مصنوعی برچسب دارد، رابطه ما با این ابزارها تغییر می‌کند. «جادوی» روانیِ روانی بودنِ مدل جای خود را به آگاهی از منشأ مکانیکی آن می‌دهد. برای نویسندگان و خلق‌کنندگان، این لایه‌ای از پیچیدگی به فرآیند خلاقانه اضافه می‌کند. آیا شعری که اثر انگشت دیجیتال منشأ سنتتیک خود را دارد، «کمتر» شعر است؟ آیا واترمارک، ارزش بینشی را که هوش مصنوعی ارائه داده است، کاهش می‌دهد؟

از دیدگاه توسعه‌دهنده، ادغام نشان‌گذاری در خط لوله (Pipeline) API، یادآور افزایش هزینه‌های نظارتی هوش مصنوعی است. دوران «سریع حرکت کن و همه چیز را بشکن» در مدل‌های زبانی بزرگ، جای خود را به دوران «با دقت حرکت کن و همه چیز را مستند کن» داده است. توسعه‌دهندگان اکنون باید بررسی کنند که واترمارک‌ها چگونه بر برنامه‌های پایین‌دستی آن‌ها اثر می‌گذارد. برای مثال، اگر برنامه‌ای برای تولید کد از کلود استفاده می‌کند، آیا واترمارک در منطق کد باقی می‌ماند؟ اگرچه نشان‌گذاری در درجه اول برای زبان طبیعی طراحی شده است، اما مرز بین «متن» و «کد» باریک است. اگر کد واترمارک شود، می‌تواند منجر به ادعاهای خودکار کپی‌رایت یا شناسایی کتابخانه‌های نرم‌افزاری خاص به عنوان تولیدشده توسط هوش مصنوعی شود که به‌طور بالقوه بر ممیزی‌های امنیتی اثر می‌گذارد.

در نهایت، تصمیم آنتروپیک برای نشان‌گذاری کلود، یک زنگ هشدار (Bellwether) برای کل صنعت است. این اقدام پایان دوران «غرب وحشی» هوش مصنوعی زاینده و آغاز یک اکوسیستم تنظیم‌شده است که در آن شفافیت توسط قانون اجباری شده است. قانون هوش مصنوعی اتحادیه اروپا به‌طور مؤثری استاندارد جهانی را تعیین کرده و شرکت‌هایی در سان‌فرانسیسکو، لندن و پکن را مجبور کرده تا معماری‌های فنی خود را با ارزش‌های اروپایی در زمینه شفافیت و پاسخگویی هماهنگ کنند. در حالی که واترمارک برای چشم نامرئی است، حضور آن بیانیه‌ای بلند درباره آینده محتوای دیجیتال است. ما به سمت دنیایی حرکت می‌کنیم که در آن منشأ هر جمله قابل ردیابی است و تمایز بین تفکر انسانی و ماشینی دیگر موضوع شهود نیست، بلکه موضوع تأیید آماری است. همان‌طور که این گذار را طی می‌کنیم، چالش اصلی ایجاد تعادل بین نیاز به شفافیت و میل به آزادی خلاقانه و حریم خصوصی خواهد بود. اثر انگشت نامرئی روی متن کلود، تنها یک تیک برای رعایت قانون نیست؛ بلکه اولین بخیه در بافت جدید اعتماد دیجیتال است، چه برای بهتر و چه برای بدتر.

گام بعدی شما

• اگر از API کلود برای تولید محتوای تجاری استفاده می‌کنید، بررسی کنید که آیا سیاست‌های مالکیت معنوی شما با وجود اثر انگشت دیجیتال در خروجی‌ها سازگار است یا خیر.
• ابزارهای تشخیص محتوای AI را با متون جدید کلود تست کنید تا میزان مقاومت نشان‌گذاری در برابر بازنویسی (Paraphrasing) را بسنجید.
• در استراتژی سئو خود پیش‌بینی کنید که آیا موتورهای جست‌وجو در آینده محتوای واترمارک‌شده را با رتبه پایین‌تری نمایش می‌دهند یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.