تصور کنید متنی را در محیط کاری یا دانشگاهی تحویل میدهید و حتی اگر جملات را تغییر داده باشید، یک اثر انگشت دیجیتال نامرئی ثابت میکند که این متن توسط هوش مصنوعی نوشته شده است. از ۲ اوت ۲۰۲۶، این سناریو برای تمام کاربران کلود (Claude) به واقعیت تبدیل میشود.
آنتروپیک (Anthropic) طبق یک گزارش رسمی، در حال استقرار یک سامانه برچسبگذاری جهانی است تا الزامات شفافیت ماده ۵۰(۲) «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act) را برآورده کند. این اقدام در حالی رخ میدهد که رگولاتورها بهشدت به دنبال ایجاد مرزهای روشن میان محتوای انسانی و محتوای سنتتیک هستند.
همانطور که در تحلیل قبلی ما دربارهی رقابت عاملهای کدنویسی اشاره کردیم، تمرکز این شرکت حالا از افزایش توانمندیها به سمت پاسخگویی و مسئولیتپذیری تغییر کرده است. برای کاربر عادی، این یعنی دوران «نامرئی بودن» نثر هوش مصنوعی به پایان میرسد.
دامنه و نحوه اجرای جهانی
این الزام تنها به مرزهای اروپا محدود نمیشود و بهصورت جهانی روی تمام محصولات کلود اعمال خواهد شد. این محدوده شامل API، کلود کد (Claude Code)، کلود کوورک (Claude Cowork) و کلود تگ (Claude Tag) میشود. در همین راستا، آنتروپیک پیشتر دقت طبقهبندیکننده ایمنی در کلود کد را در برابر بازبینهای انسانی بررسی کرده بود تا استانداردهای نظارتی خود را ارتقا دهد.
طبق اعلام شرکت، مدلهایی که در تاریخ ۲ اوت ۲۰۲۶ یا پس از آن عرضه میشوند، این قابلیت برچسبگذاری را بهصورت پیشفرض در ساختار خود دارند. برای مدلهای قدیمیتر که پیش از این تاریخ عرضه شدهاند، طبق قانون یک دوره گذار در نظر گرفته شده است و آنتروپیک اعلام کرده که در حال حاضر روی بهروزرسانی و تجهیز این مدلهای قدیمی به سیستم واترمارک کار میکند. علاوه بر این، توسعهدهندگانی که کلود را در محصولات خود ادغام کردهاند، باید بررسی کنند که دقیقاً کدام یک از الزامات ماده ۵۰ بر سرویسهای آنها اعمال میشود.
آنتروپیک برای این کار از دو مکانیزم مجزا استفاده میکند:
- نشانگذاری نامرئی متن (Invisible Text Watermarks): این نشانها در سطح مدل زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — اعمال میشوند. این واترمارکها خوانایی، معنا یا کیفیت متن را تغییر نمیدهند و بهگونهای طراحی شدهاند که در برابر کپی-پیست مقاوم باشند و «ممکن است پس از برخی ویرایشها نیز باقی بمانند». این سیستم همچنین از طریق شرکای ابری مانند AWS، گوگل کلاود و مایکروسافت فاندری (Microsoft Foundry) فعال خواهد بود.
- متادیتای منشأ امضاشده (Signed Provenance Metadata): برای فایلهای تصویری و گرافیکی مانند png، jpg و svg از استاندارد باز C2PA استفاده میشود که توسط «ائتلاف منشأ و اصالت محتوا» توسعه یافته است. این امضای دیجیتال ثابت میکند فایل توسط کلود پردازش شده و هرگونه دستکاری بعدی در آن قابل شناسایی است. البته باید توجه داشت که برخی پلتفرمهای ابری ممکن است از این متادیتای امضاشده پشتیبانی نکنند.
محدودیتهای شناسایی و نرخ خطا
با این حال، این سیستم بینقص نیست. به نقل از مستندات آنتروپیک، وجود واترمارک لزوماً به معنای این نیست که «ایدهها» توسط هوش مصنوعی تولید شدهاند. از آنجا که کاربران اغلب از این ابزار برای بازبینی (Proofreading)، ترجمه یا خلاصهسازی استفاده میکنند، ممکن است خروجی نهایی واترمارک بگیرد، در حالی که ایدههای اصلی از سوی یک انسان ارائه شده است.
از سوی دیگر، نبود واترمارک هم تضمینی برای انسانی بودن متن نیست. شناسایی در موارد زیر شکست میخورد:
- اگر مدل پیش از استقرار سیستم واترمارک عرضه شده باشد.
- اگر متن بهشدت ویرایش یا ترجمه شده باشد.
- اگر طول متن برای شناسایی قابلاعتماد، بیش از حد کوتاه باشد.
- اگر متادیتا هنگام تبدیل فرمت یا گرفتن اسکرینشات حذف شده باشد.
این وضعیت محیطی پرریسک برای محیطهای آموزشی و کارهای تخصصی میسازد. اگر این نشانها در برابر تغییر فرمت مقاوم باشند، بسیار قابلاعتمادتر از ابزارهای تجاری مانند پانگرم (Pangram) خواهند بود که روشهای شناسایی آنها فاش نمیکند چه عاملی باعث صدور نتیجه شده است. احتمالاً شناسگرهای شخص ثالث در آینده برای دستیابی به سیگنالی قابلاعتمادتر، پشتیبانی از واترمارک آنتروپیک را اضافه خواهند کرد.
برای کاربر، این یعنی دوران «پنهانی» استفاده از کلود برای میانبرهای تحصیلی یا حرفهای در حال بسته شدن است. در حالی که گوگل دیپمایند (Google DeepMind) پیشتر سیستم SynthID را برای جمینای معرفی کرد — که با تغییر مقادیر احتمالی در هنگام پیشبینی توکنها عمل میکند — و گزارش شده که OpenAI یک شناسگر با دقت ۹۹.۹ درصد را برای دو سال مخفی نگه داشته است، آنتروپیک نخستین شرکتی است که متعهد به استقرار جهانی و گسترده بر اساس یک قانون مشخص شده است.
این تصمیم احتمالاً دانشجویان و پژوهشگرانی را که برای دور زدن شناسگرها به نثر طبیعی کلود تکیه میکردند، ناامید میکند. این موضوع در آموزش بسیار حساس است، زیرا شناسگرهای غیردقیق میتوانند منجر به اتهامات نادرست تقلب شوند. در همین حال، کلاهبردارانی وجود دارند که با ثبتنام به عنوان دانشجویان جعلی در کالجهای آمریکا و استفاده از هوش مصنوعی برای گذراندن آسان دروس، به دنبال دریافت کمکهای مالی تحصیلی هستند. این چالشها در حالی رخ میدهد که آنتروپیک تلاش میکند با ارائه ابزارهای رایگان برای معلمان و تضمین حریم خصوصی دادههای آموزشی در مدارس، جایگاه خود را در نظام آموزشی تثبیت کند.
گام بعدی شما
- اگر از کلود برای تولید محتوای حساس استفاده میکنید، بدانید که از اوت ۲۰۲۶ ردپای دیجیتالی در آثار شما باقی میماند.
- توسعهدهندگانی که از API کلود استفاده میکنند، باید بررسی کنند کدام بخش از ماده ۵۰ قانون اتحادیه اروپا بر سرویس آنها اعمال میشود.
- منتظر انتشار ابزارهای رسمی تایید هویت آنتروپیک باشید که به شخص ثالث اجازه میدهد این برچسبها را بررسی کنند.
اما نبرد اصلی بر سر این است که آیا این نشانها در برابر زنجیره «بازنویسی و ترجمه» که رایجترین روش پاکسازی اثرات هوش مصنوعی است، دوام میآورند یا خیر.
گفتگو