تصور کنید داستانی را می‌خوانید که شما را به شدت جذب کرده است، اما ناگهان متوجه می‌شوید نویسنده آن یک انسان نبوده و تمام احساسات متن توسط یک ماشین تولید شده است. این کابوس برای بسیاری از کاربران آرشیو داستان‌های طرفداران (AO3) اکنون به یک واقعیت قابل رصد تبدیل شده است.
طبق گزارش‌های منتشر شده، یک پوسته (Skin) مرورگر سفارشی اکنون به خوانندگان اجازه می‌دهد داستان‌هایی که از کلود (Claude) — مدل زبانی شرکت Anthropic — کپی و در وب‌سایت Archive of Our Own (AO3) منتشر شده‌اند را فوراً شناسایی کنند. این ابزار که در ۲۹ ژوئن ۲۰۲۴ توسط یک حساب ناشناس در X به نام @heatedrivalryai منتشر شد، در صورت شناسایی آثار کدنویسی خاصی که توسط هوش مصنوعی زاینده (Generative AI) — شبیه به اثر انگشتی دیجیتالی که هر ابزار روی نوشته‌هایش می‌گذارد — باقی مانده، پس‌زمینه صفحه را به رنگ قرمز در می‌آورد.
جس ودربد، یکی از نویسندگان این حوزه، می‌گوید این جنبش در میان تنشی قدیمی در جوامع خلاق شکل گرفته است. این نگرانی‌ها ریشه در ترس عمیق هنرمندان از جایگزینی دارد، چرا که بسیاری از نویسندگان از احتمال سرقت آثارشان توسط هوش مصنوعی و از دست رفتن مالکیت فکری خود می‌ترسند. در حالی که خوانندگان پیش از این بر اساس سبک نوشتاری یا الگوهای علائم نگارشی متوجه حضور AI می‌شدند، این روش جدید مستقیماً کد HTML را هدف قرار می‌دهد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی شناسایی محتوای مصنوعی اشاره کردیم، تکیه بر تحلیل آماری متن سخت است، اما ردیابی اثرات زیرساختی کد بسیار دقیق‌تر عمل می‌کند.
بر اساس مستندات این ابزار، سازوکار شناسایی به شرح زیر است:
- هدف شناسایی: این سیستم به دنبال کلاس CSS خاصی به نام
font-claude-response-bodyمی‌گردد که وقتی متن مستقیماً از رابط کاربری Claude به ویرایشگر AO3 منتقل می‌شود، دور متن قرار می‌گیرد. - محرک هشدار: در صورت وجود این رشته کد، پوسته مرورگر هشدار قرمز رنگی را در کل صفحه فعال می‌کند.
- راه فرار: اگر کاربر متن تولیدشده توسط AI را ابتدا در یک ویرایشگر متن ساده (Plain-text) کپی کرده و سپس در سایت قرار دهد، متادیتاهای کد حذف شده و صفحه قرمز نمی‌شود.
این حفره فنی ریسک «منفی کاذب» (False Negative) را بالا می‌برد؛ چرا که هر نویسنده‌ای که از قابلیت Paste as plain text استفاده کند، به‌طور کامل از دید این ردیاب پنهان می‌ماند. با این حال، این ابزار راه‌اندازی موجی از «نام‌گذاری و شرمسار کردن» (Name and Shame) نویسندگانی را به راه انداخته که از AI استفاده می‌کردند. این رویکرد اجتماعی برای شناسایی خطاهای AI یادآور تلاش‌های جمعی در پلتفرم‌هایی است که شفافیت در خطاها و ردیابی شکست‌های مدل‌های زبانی را هدف قرار داده‌اند.
برای یک نویسنده عادی، این وضعیت به معنای تغییر مسیر از نقد ادبی به نظارت خودکار است. سازنده ابزار معتقد است روح دنیای طرفداران بر پایه «عنصر انسانی» استوار است و اجازه می‌دهد هوش مصنوعی این فضاهای همکاری را تخریب کند.
این تضاد نشان‌دهنده شکافی عمیق است: در حالی که ابزارهای AI کارایی را بالا می‌برند، جامعه خلاقان «جرقه‌ی خلاقیت» را یک بازی با حاصل-جمع صفر می‌بینند. وقتی عنصر انسانی حذف شود، پیوندهای اجتماعی این جوامع از هم می‌پاشد.
گام بعدی شما
- اگر نویسنده هستید، از ابزارهای پاک‌ساز متن برای حذف متادیتاهای ناخواسته استفاده کنید.
- برای تست دقت این ابزار، نمونه‌های متنی تولیدشده توسط Claude را در محیط AO3 بررسی کنید.
- حساب @heatedrivalryai را برای به‌روزرسانی‌های احتمالی در شناسایی مدل‌های دیگر دنبال کنید.
اما نبرد شناسایی AI تنها در متن نیست؛ تحلیل ما درباره‌ی واترمارک‌های نامرئی در تصاویر، ابعاد پیچیده‌تری از این تقابل را نشان می‌دهد.
گفتگو