اگر امروز برای تولید محتوای تجاری به Claude تکیه میکنید، باید بدانید که «امضای دیجیتال» نامرئی این مدل دیگر قابل اعتماد نیست. تنها چهار ساعت پس از تأیید انتشار جهانی قابلیت نشانگذاری، ابزارهای رایگانی منتشر شدند که این ردپای دیجیتال را بهطور کامل پاک میکنند.
گیوم مایر (Guillaume Meyer)، توسعهدهنده مستقل، کدی را منتشر کرد که نشانگذاریهای نامرئی Claude را حذف میکند. این واکنش سریع، شکاف عمیقی را میان الزامات قانونی و توانایی جامعه متنباز در دور زدن آنها نشان میدهد. کد مایر در گیتهاب (GitHub) به سرعت فراگیر شد و بیش از ۲۰ هزار بوکمارک در شبکه X دریافت کرد. طبق گزارشها، بیش از ۱۰۰ مشارکتکننده در حال توسعه این ابزار هستند و بسیاری از پروژههای دیگر نیز این تکنولوژی را در سامانه خود ادغام کردهاند. یک متخصص هوش مصنوعی این وضعیت را چنین توصیف کرد: «این موضوع عملاً یک روز بعد به تاریخ پیوست.» او برای توصیف این پیروزی، تصویری را به اشتراک گذاشت که در آن مایر در حال شکستن زنجیرهاست و بر روی پرچمهای مچاله شده اتحادیه اروپا و شرکت Anthropic ایستاده است.
این تقابل در حالی رخ میدهد که قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) اکنون ارائهدهندگان را ملزم میکند تا صدا، تصویر، ویدیو یا متون مصنوعی را برچسبگذاری کنند تا توسط ماشین قابل شناسایی باشند. بر اساس مستندات قانونی، شرکتهایی که این قوانین را نادیده بگیرند، با جریمههایی تا ۳ درصد از گردش سالانه خود مواجه میشوند. نکته کلیدی این است که در حالی که بازاریابی ابزارهای دور زدن برای شرکتها ممنوع است، هیچ محدودیت قانونی برای ابزارهای مستقلی که توسط توسعهدهندگان ساخته میشود، وجود ندارد.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای زبانی اشاره کردیم، نبرد بر سر «منشأ دادهها» همواره یک بازی گربهوموش بوده است. در حال حاضر حدود ۱۹۰ سازمان، از جمله OpenAI، مایکروسافت و متا، کد رویه شفافیت اتحادیه اروپا را امضا کردهاند. مدلهای جدید از اوت ۲۰۲۴ باید دارای واترمارک باشند و مدلهای موجود تا دسامبر با این سیستم یکپارچه شوند. جالب است بدانید اسکات آرونسون، دانشمند علوم کامپیوتر، زمانی که در OpenAI بود روش مشابهی را پیشنهاد داد، اما آن شرکت به دلیل ترس از اینکه واترمارکها باعث دور شدن مشتریان شود، از اجرای آن خودداری کرد.
این نبرد در واقع بر سر توانایی پنهان کردن اثر انگشت هوش مصنوعی است. Anthropic از تکنیکی به نام SynthID استفاده میکند که ابتدا توسط گوگل توسعه یافت و از سال ۲۰۲۳ برای نشانگذاری محتوای هوش مصنوعی به کار گرفته شده است. نشانگذاری (Watermarking) — شبیه گذاشتن یک مهر نامرئی روی کاغذ که فقط با نور خاص دیده میشود — در SynthID از طریق ایجاد الگوهای ماشینخوان در انتخاب کلمات مدل انجام میشود. این الگو برای انسان نامرئی است اما توسط نرمافزارهای تخصصی قابل شناسایی است. با وجود ادعای Anthropic مبنی بر اینکه این کار کیفیت، معنا یا خوانایی پاسخها را تغییر نمیدهد (حتی در خروجیهای Claude Code)، جامعه توسعهدهندگان راههای متعددی برای شکستن آن یافتهاند:
- بازنویسی توسط مدلهای زبانی: ابزار مایر از یک مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — که قابلیت واترمارک ندارد استفاده میکند تا متن را با جایگزینی مترادفات و تغییر ساختار، بازنویسی کند.
- دستکاری نویسهها: اریک هیوز (Erik Hughes) ابزاری ساخت که در ۱۵ دقیقه با کمک خودِ Claude طراحی شد. این ابزار نویسههای نامرئی و مشابه را حذف کرده، ترتیب جملات را در پاراگرافها تغییر میدهد و کلمات را با مترادفات جایگزین میکند.
- ترجمه متقاطع: لئون کلون از دانشگاه آکسفورد پیشنهاد میکند متن ابتدا فشرده شود یا به زبانی با معناشناسی بسیار متفاوت از انگلیسی (مثل عربی) ترجمه و سپس دوباره به انگلیسی برگردانده شود تا واترمارک از بین برود.
به نقل از بیانیه Anthropic در گفتگو با Wired، محتوایی که بهشدت ویرایش، بازنویسی یا ترجمه شده باشد، ممکن است واترمارک خود را از دست بدهد. این شرکت قصد دارد بهزودی یک API تشخیص متن منتشر کند تا توسعهدهندگان بتوانند متوجه شوند آیا روشهای حذف آنها واقعاً بینقص است یا خیر. وین پان، همبنیان استارتاپ Haimaker، همین حالا ابزار مایر را در پلتفرم خود ادغام کرده است؛ زیرا او با نشانگذاری نامرئی برای محتوایی که ویرایش جزئی شده مخالف است و از اینکه واترمارک برای کاربر نامرئی باشد، بیزار است.
برخی توسعهدهندگان به دلیل مخالفت با این ایده که تمام محتوای تولید شده توسط AI باید برچسبگذاری شود، به دنبال دور زدن این سیستم هستند. برخی دیگر، از جمله مایر، صرفاً از چالش فنی این کار لذت میبرند. نویسندگان فریلنسر و تولیدکنندگان محتوای شبکههای اجتماعی نیز برای دسترسی به این کد با مایر تماس گرفتهاند تا بتوانند ردپای AI را از آثارشان پاک کنند.
برای کاربران تجاری، این وضعیت یک منطقه خاکستری خطرناک ایجاد میکند. اگر شرکتی برای ارزیابی متقاضیان شغلی یا مقالات پژوهشی به این واترمارکها تکیه کند، با خطر «مثبت کاذب» (اتهام اشتباه) یا نادیده گرفتن کامل محتوای مصنوعی مواجه است. مایر استدلال میکند که استفاده از تشخیصدهندههای احتمالی به عنوان مدرک، میتواند منجر به اتهامات ناعادلانه علیه نویسندگانی شود که فقط برای اصلاح گرامر یا ویرایشهای سبک از هوش مصنوعی استفاده کردهاند؛ درست مثل کسی که یک گویشور بومی فرانسوی از Grammarly استفاده میکند. او معتقد است واترمارک به دلیل این ریسکها، یک «راهکار واقعاً بد» است.
این اتفاق نشان میدهد که نشانگذاری نامرئی راهکاری شکننده برای شفافیت است. وقتی ابزارهای حذف این نشانها بهصورت رایگان در گیتهاب در دسترس باشند، واترمارک دیگر دلیلی بر منشأ مصنوعی نیست، بلکه تنها نشانهای از «استفاده سطح پایین» از هوش مصنوعی است. همانطور که پان اشاره میکند، بعید است واترمارکی ساخته شود که در برابر تمام تلاشها برای حذف مقاوم باشد.
باید منتظر انتشار API تشخیص متن Anthropic باشیم تا ببینیم آیا این شرکت میتواند سرعت بهروزرسانی سیستم واترمارک خود را به اندازهای بالا ببرد که از جامعه متنباز پیشی بگیرد یا خیر.
گام بعدی شما
- اگر از Claude برای تولید محتوای حساس استفاده میکنید، فرض را بر این بگذارید که واترمارکهای آن توسط ابزارهای رایگان قابل حذف است.
- منتظر انتشار API تشخیص متن Anthropic باشید تا میزان استواری روشهای بازنویسی را بسنجید.
- در صورت استفاده از محتوای AI در محیطهای آکادمیک یا رسمی، به جای تکیه بر واترمارک، از روشهای افشای داوطلبانه استفاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو