اگر امروز از مدلهای پیشرفته برای مدیریت دادههای حساس شرکتتان استفاده میکنید، باید بدانید که دیوارهای امنیتی این مدلها متخلخلتر از آن چیزی است که تصور میکردید. یک نقص امنیتی در معماری API سه غول هوش مصنوعی، اجازه داد تا مدلهای ضعیفتر، افکار درونی مدلهای قدرتمندتر را بخوانند.
طبق گزارش ۱۷ اوت ۲۰۲۶ از وبسایت The Hacker News، این آسیبپذیری به پژوهشگران اجازه داد تا اسرار حساس را از لاگهای نشستها (Session Logs) بازیابی کنند. این اتفاق در حالی رخ میدهد که سازمانها بهسرعت از چتباتهای ساده به سمت عاملهای هوش مصنوعی (AI Agents) — شبیه به کارمندانی دیجیتال که میتوانند بهجای شما تصمیم بگیرند و ابزارها را اجرا کنند — حرکت میکنند. این انتقال به سمت خودمختاری، چالشهای جدیدی را در زمینه حاکمیت لایههای کنترلی برای جلوگیری از شکست سیستمهای خودکار ایجاد کرده است.
در این سامانهها، «اشیاء استدلالی» برای پنهان کردن زنجیره تفکر (Chain-of-Thought) — مثل یادداشتهای پیشنویس یک دانشآموز که قبل از نوشتن جواب نهایی، مراحل حل مسئله را روی کاغذ میآورد — رمزگذاری میشوند تا کاربر نهایی آنها را نبیند. همانطور که در بحثهای گذشته ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، لایههای حفاظتی نرمافزاری اغلب نقطهضعف زنجیره هستند.
جزئیات نفوذ فنی
بر اساس مستندات این گزارش، نقص مذکور دقیقاً روی نحوه انتقال استدلالهای پنهان بین فراخوانیهای API اثر گذاشته است. پژوهشگران توانستند موارد زیر را استخراج کنند:
- مسیرهای استدلال داخلی مدل
- رمزهای عبور بهصورت متن ساده (Plaintext)
- کلیدهای فعال API
به گزارش The Hacker News، خطرات امنیتی به اینجا ختم نمیشود. سرورهای مخرب پروتکل زمینهٔ مدل (MCP) اکنون میتوانند عاملهای کدنویس را فریب دهند تا کلیدهای SSH و کدهای منبع را سرقت کنند؛ آن هم با خرد کردن دستورات مخرب به تکههای کوچک و غیرمشکوک. این نوع نفوذات یادآور گزارش Hugging Face درباره نفوذ خودکار مدلهای OpenAI به زیرساختهای امنیتی است که پیشتر هشدار داده بود.
این الگو نشان میدهد که با افزایش تواناییهای هوش مصنوعی، محیط امنیتی از خودِ مدل به زیرساختهای متصل به آن منتقل شده است. برای مدیران کسبوکار، ریسک دیگر فقط توهم (Hallucination) — وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، مثل دوستی که خاطرهای را اشتباه تعریف میکند — نیست، بلکه خروج واقعی دادهها از طریق ابزارهای اتوماسیون است. این تغییر پارادایم را میتوان در ۱۰ روند کلیدی توسعه نرمافزار با هوش مصنوعی در سال ۲۰۲۶ که بر امنیت زیرساختی تأکید داشت، مشاهده کرد.
گام بعدی شما
- فوراً ذخیرهسازی لاگهای نشستهای خود را بازبینی و هر کلید API که در اشیاء استدلالی قرار داشته را تغییر دهید.
- برای کاهش وابستگی به APIهای ابری، ابزارهای یکپارچهسازی مدلهای محلی مانند AnyLanguageModel را در وبلاگ Hugging Face دنبال کنید.
- دسترسیهای سرورهای MCP را محدود کرده و خروجیهای عاملهای کدنویس را نظارت کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو