تصور کنید یک گزارش تحلیل بازار را از وب دانلود میکنید و ناگهان تمام گزارشهای مالی داخلی سازمان شما بهطور مخفیانه آلوده میشوند. این کابوس اکنون در محیط مایکروسافت کوپایلوت (Microsoft Copilot) برای ورد به واقعیت تبدیل شده است.
این آسیبپذیری در حالی رخ میدهد که شرکتها هر روز بیشتر ابزارهای هوش مصنوعی را در هسته عملیات خود جای میدهند. همانطور که در تحلیل قبلی ما دربارهی چارچوب عامل مایکروسافت (Microsoft Agent Framework) اشاره کردیم، صنعت به سمت عاملهای خودمختار میرود، اما این نقص ثابت میکند لایه پایه «اعتماد» در پردازش اسناد همچنان شکست خورده است. در واقع، این مدلها مانند دستیاری هستند که هر چه در کاغذ نوشته شده را دستور مطلق میپندارند، حتی اگر دستورات با رنگ سفید روی پسزمینه سفید نوشته شده باشند تا چشم انسان آنها را نبیند.
طبق گزارش وبسایت the-decoder.com، مکانیسم این حمله به شرح زیر است:
- مهاجم دستورات مخرب را با فونت بسیار کوچک و رنگ سفید در یک سند ورد قرار میدهد.
- مایکروسافت کوپایلوت پیش از پردازش، رنگ و اندازه فونت را حذف میکند و بدین ترتیب دستور پنهان فعال میشود.
- مدل زبانی — که شبیه کتابخانهداری است که میلیاردها صفحه را خوانده و حالا هر چه ببیند تکرار میکند — این دستورات مخرب را در هر فایل جدیدی که تولید میکند، کپی میکند. این سازوکار دقیقاً همان چیزی است که در پژوهشهای امنیتی اخیر درباره تبدیل اسناد ورد به ناقل کرمهای AI مورد بررسی قرار گرفته است.
- این فایلهای جدید خود به ناقل تبدیل شده و چرخه انتشار را تکرار میکنند.
به نقل از مستندات این پژوهش، مایکروسافت در ۳۱ مارس ۲۰۲۶ این رفتار خاص را تأیید کرد. با این حال، شرکت در دو تلاش بعدی برای وصله کردن این حفره شکست خورد. پس از ۱۴۴ روز سکوت و اصلاحات بینتیجه، هاکون مالوی (Håkon Måløy) در ۱ آوریل ۲۰۲۶ یافتههای خود را منتشر کرد، هرچند متن دقیق دستورات مخرب را برای جلوگیری از سوءاستفاده سریع منتشر نکرد.
این اتفاق یک شکست بحرانی در «پاکسازی» دادههاست. ثابت میکند تا زمانی که مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — هر متنی را به عنوان دستور معتبر بپذیرند، نمیتوان به آنها در مواجهه با منابع نامعتبر اعتماد کرد. این مسئله تنها محدود به اسناد متنی نیست، بلکه خطرات مشابهی در مورد توهمات مدلهای زبانی دیده میشود که میتوانند عاملهای کدنویسی را به باتنتهای عظیم تبدیل کنند. برای یک کاربر تجاری، این یعنی یک سند «آلوده» میتواند تمام گزارشهای سازمان را به تسخیر درآورد.
گام بعدی شما
- در خلاصهسازی یا بازنویسی اسناد دریافتی از منابع خارجی و نامعتبر، بهشدت محتاط باشید.
- منتظر وصلههای امنیتی رسمی مایکروسافت در رابطه با «تداوم تزریق پرامپت» در آفیس ۳۶۵ باشید.
- دسترسیهای مدلهای AI به اسناد حساس سازمان را بازبینی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو