اگر همین حالا وارد وبسایت یک شرکت اروپایی شوید و با چتباتی گفتگو کنید، احتمالاً هرگز نخواهید فهمید که با یک ماشین طرف هستید. طبق مطالعهای که توسط آلنا (Alena)، بنیانگذار DisclosureProof انجام شده، تنها ۱۱٪ از چتباتهای قابلدسترسی در وبسایتهای متوجه اتحادیه اروپا، صراحتاً اعلام میکنند که هویت آنها ماشینی است.
این یافته نشاندهنده شکست گسترده در رعایت ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) است که از ۲ اوت ۲۰۲۶ لازمالاجرا شد. ماده ۵۰ یک دستور ساده دارد: هرگاه انسانی با یک سامانه هوش مصنوعی تعامل میکند، باید از این موضوع مطلع شود، مگر اینکه این حقیقت برای یک فرد آگاه کاملاً بدیهی باشد. برخلاف سایر بخشهای این قانون، اینجا خبری از دستهبندیهای پیچیده ریسک یا ارزیابیهای مدل نیست؛ مسئله فقط این است که آیا حباب چت در گوشه صفحه به کاربر میگوید که با یک ماشین حرف میزند یا خیر. این عدم شفافیت در هویت باتها میتواند اثرات شناختی عمیقی بر کاربر داشته باشد؛ چنانکه مطالعهای از MIT نشان داد اتکای بیش از حد به چتباتها حتی دقت تشخیص اخبار جعلی را در کاربران کاهش میدهد.
برای تست این موضوع در مقیاس وسیع، آلنا اسکنری ساخت که دقیقاً شبیه یک بازرس انسانی عمل میکند. این ابزار یک مرورگر واقعی را باز میکند، بنرهای کوکی را میبندد، دکمه چت را پیدا کرده و اولین پیام را میخواند. در وبسایتهایی که خودش مالک آنهاست، اسکنر مستقیماً از بات میپرسد که آیا هوش مصنوعی است یا خیر و میزان تأخیر (Latency) — یعنی همان فاصله زمانی بین ارسال سؤال و دریافت جواب، شبیه به وقفه کوتاهی که یک گارسون قبل از آوردن سفارش میدهد — را اندازهگیری میکند.
همانطور که در تحلیلهای قبلی ما دربارهی چالشهای نظارت بر مدلهای بازمتن اشاره کردیم، فاصله میان متن قانون و اجرای فنی آن همیشه زیاد است. در این پروژه نیز، ساخت منطق تشخیص تنها ۱۰٪ از تلاشها بود و ۹۰٪ باقیمانده صرف کشف این حقیقت شد که وب بسیار عجیبتر از تصورات اولیه است.
یکی از موانع اصلی، پدیده «پژواک» بود؛ جایی که رابط کاربری پیام کاربر را در صدم ثانیه به تاریخچه گفتگو برمیگرداند. نسخههای اولیه اسکنر، این بازگشت سریع پیام را با پاسخ سریع یک هوش مصنوعی اشتباه میگرفت. یک سامانه خودکار معمولاً در کمتر از یک ثانیه پاسخ میدهد، در حالی که انسان چنین سرعتی ندارد. برای حل این مشکل، آلنا منطقی را پیاده کرد که پیامهای مشابه با متن ارسالی را نادیده بگیرد تا از خطای تشخیص جلوگیری شود.
موانع زبانی نیز چالشبرانگیز بودند. اسکنر باید ۲۴ زبان رسمی اتحادیه اروپا، از جمله کاتالان را پوشش میداد. به نقل از مستندات این مطالعه، برخی کلمات در یک زبان معنای «هوش مصنوعی» دارند اما در زبانی دیگر معنای کاملاً متفاوتی دارند. برای مثال، واژه «ai» در زبان رومانیایی به معنای «تو داری» است و واژه «ia» به معنای «میگیرد». به همین دلیل، هر اصطلاح باید با تمام لغتنامههای زبانهای دیگر تطبیق داده میشد تا از تشخیصهای غلط جلوگیری شود.
حتی موضوعات سادهای مثل نفی (Negation) تبدیل به کابوس شد. برای مثال، چکباکس reCAPTCHA در زبان ایرلندی میگوید «Ní róbat mé» (من ربات نیستم). اگر سیستم مدیریت نفی در هر یک از زبانها را نادیده میگرفت، نیمی از اینترنت به اشتباه به عنوان رباتی که به هویت خود اعتراف کرده، درجهبندی میشد.
بزرگترین نبرد فنی اما با «دیوارهای رضایت» (Consent-Walls) بود. بنرهای رضایت کوکی مانند یک نگهبان عمل میکنند؛ اگر اسکنر نتواند این بنر را ببندد، هرگز به ویجت چت نمیرسد. شرکتهای مختلف از تکنیکهای پنهانسازی متفاوتی استفاده میکنند. برخی از Shadow Root استفاده میکنند که دسترسی به آن نیاز به کدنویسی خاص دارد و برخی دیگر در iframeهای خارج از دامنه قرار دارند که اصلاً از محیط صفحه قابل دسترسی نیستند.
در ۱۰ اوت ۲۰۲۶، این اسکنر ۱۰۸۸ سایت را بررسی کرد. نتایج تکاندهنده بود:
- ۷۹۴ ویجت چت تأیید شدند.
- در ۷۸٪ این موارد، بازدیدکننده خودکار به دلیل دیوارهای رضایت یا باز نشدن پنلها، نتوانست اولین پیام را بخواند.
- از ۱۷۴ پیام قابل خواندن، تنها ۱۹ مورد (حدود ۱۱٪) افشای هویت صریح داشتند.
- ۷۳ مورد هیچ افشایی نداشتند و ۸۲ مورد مبهم بودند.
به گزارش DisclosureProof، دقت تشخیص کلی ویجتها (بر اساس شکل دایرهای در گوشه پایین سمت راست) تنها ۴۷٪ بود، زیرا بسیاری از موارد در واقع چتبات نبودند و مواردی مثل فلشهای اسلایدر یا دکمههای «بازگشت به بالا» را به اشتباه شناسایی کرده بودند.
آلنا تأکید میکند که از واژه «مطابق با قانون» (Compliant) استفاده نمیکند، زیرا این یک نتیجهگیری حقوقی است و نه فنی. در عوض، این سامانه شواهدی شامل اسکرینشات، برچسب زمانی و یک مانیفست SHA-256 ارائه میدهد تا ثابت کند شواهد دستکاری نشدهاند. زیرساخت فنی این پروژه بر پایه Cloudflare Workers، D1 و Browser Rendering بنا شده است.
این مطالعه ثابت میکند که در حالی که قانون ساده است، اما واقعیت فنی اجرای آن یک کابوس است. وب بهگونهای طراحی شده که دقیقاً همان اتوماسیونی را که برای نظارت لازم است، مسدود کند.
گام بعدی شما
- اگر در اتحادیه اروپا چتبات مستقر میکنید، متن افشای هویت خود را با پایگاههای داده اصطلاحات ملی مانند téarma.ie تطبیق دهید.
- بررسی کنید که آیا بنرهای رضایت کوکی شما مانع دسترسی ابزارهای نظارتی و دسترسیپذیری (Accessibility) نمیشوند.
- برای اطمینان از شفافیت، عبارت «من یک دستیار هوش مصنوعی هستم» را در اولین پیام خوشآمدگویی قرار دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو