تصور کنید متن یک لایحه حساس دفاعی ملی را بخوانید و متوجه شوید که عبارت «Claude پاسخ داد» در ابتدای آن قرار دارد. این اتفاق دقیقاً همان چیزی است که باعث شد آنا پائولینا لونا، نماینده جمهوری‌خواه فلوریدا، در ۲۴ ژوئن ۲۰۲۶ با موجی از انتقادات شدید رو‌به‌رو شود.
این ماجرا در حالی رخ می‌دهد که دولت‌ها با پدیده «هوش مصنوعی سایه» (Shadow AI) دست‌وپنجه نرم می‌کنند؛ وضعیتی که در آن کارکنان برای دور زدن روال‌های اداری سخت، به‌طور مخفیانه از ابزارهایی مثل مدل زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — استفاده می‌کنند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، نشت داده‌ها در محیط‌های حساس، یک الگوی تکرارشونده است؛ درست مثل وکلایی که استنادات جعلی تولید کردند یا مقامات شهری در برزیل که ناخواسته قوانین نوشته‌شده توسط ChatGPT را تصویب کردند. این چالش‌های نظارتی دقیقاً همان نقاط ضعفی است که در بررسی‌های مربوط به ریسک‌های مدل نظارتی قانون بزرگ هوش مصنوعی آمریکا مورد بحث قرار گرفت.
به گزارش وب‌سایت The Verge، لونا ابتدا ادعا کرد که کارکنانش تنها برای «اصلاح یک متن پیش‌نویس» از هوش مصنوعی استفاده کرده‌اند و در ویرایش نهایی کوتاهی کرده‌اند. او سپس در اظهارنظری دقیق‌تر گفت: «بله، کارکنان من از هوش مصنوعی برای بررسی املایی و دستوریِ خلاصه (Summary) اصلاحیه استفاده کردند، نه برای نوشتن خودِ متن اصلاحیه».
لونا برای دفاع از روند کاری دفتر خود بر دو نکته کلیدی تأکید کرد:
- هیچ لایحه‌ای هرگز با هوش مصنوعی تدوین نمی‌شود.
- تمامی متون رسمی لایحه‌ها از «شورای قانون‌گذاری مجلس» (House Legislative Council) صادر می‌شوند که استفاده از هوش مصنوعی در آن به‌طور کامل ممنوع است.
طبق بررسی منابع متعدد، این پرونده شکافی خطرناک در حکمرانی دیجیتال را نشان می‌دهد. در حالی که فرآیند «رسمی» تدوین قوانین همچنان انسانی است، اما لایه‌های اداری مثل نامه‌ها، ایمیلم‌ها و خلاصه‌ها به‌سرعت تسلیم اتوماسیون مدل‌های زبانی می‌شوند. برای یک شهروند عادی، این یعنی اطلاعاتی که قوانین کشور را برایش توضیح می‌دهند، به‌طور فزاینده‌ای مصنوعی (Synthetic) هستند، حتی اگر خودِ قانون نباشد. برای مقابله با این ابهام در اصالت محتوا، راهکارهای فنی جدیدی مانند استفاده از گواهی‌های رمزنگاری برای اثبات غیرقابل‌تغییر بودن خروجی‌های AI در حال توسعه هستند تا مرز میان متن انسانی و مصنوعی شفاف‌تر شود.
گام بعدی شما
- بررسی کنید آیا در سازمان شما پروتکلی برای تفکیک «متن نهایی» از «خلاصه‌های تولیدشده با AI» وجود دارد یا خیر.
- تغییرات احتمالی در قوانین داخلی مجلس آمریکا درباره استفاده کارکنان از ابزارهای AI را دنبال کنید.
- نظارت بر اینکه آیا شورای قانون‌گذاری مجلس برای حفظ وضعیت «بدون AI»، حسابرسی‌های سخت‌گیرانه‌تری را اجرا می‌کند یا نه.
اما ابعاد فنی‌تر این نشت داده‌ها و تاثیر آن بر حریم خصوصی دولتی، موضوعی است که در گزارش‌های بعدی درباره امنیت داده‌های حساس بررسی خواهیم کرد.
گفتگو