یک دستور ساده و اشتباه مثل «DROP TABLE» کافی است تا کل پایگاه دادهٔ عملیات یک شرکت در لحظهای محو شود. Traceforce، استارتآپ تحت حمایت Y Combinator، در ۱۶ جولای ۲۰۲۶ لایهٔ امنیتی جدیدی را برای جلوگیری از این فجایع معرفی کرد که فعالیت برنامههای هوش مصنوعی را بهصورت لحظهای رصد میکند.
اکثر شرکتها امروز با یک شکاف نظارتی عمیق دستوپنجه نرم میکنند. کارکنان با سرعتی بیشتر از تیمهای IT، از دستیارهای کدنویسی و مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — استفاده میکنند. این وضعیت منجر به ایجاد «هوش مصنوعی سایه» شده است؛ محیطی که در آن دادههای حساس از طریق پلاگینهای شخص ثالث نشت میکنند. این پدیده در واقع همان حفرهای است که پیشتر در تحلیل ما درباره ریسکهای نشت دادههای سازمانی به تفصیل بررسی شده بود.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، کنترل دسترسی به دادهها همواره نقطه ضعف این سیستمها بوده است. Traceforce دقیقاً همین خلأ را هدف قرار داده و تمرکز ویژهای بر پروتکل زمینهٔ مدل (MCP) — استانداردی که برنامههای هوش مصنوعی را به منابع دادهٔ خصوصی متصل میکند — دارد. تلاش برای مدیریت این دسترسیها، Traceforce را در مسیر رقابتی قرار میدهد که سایر ابزارهای حاکمیت بر هوش مصنوعی مثل Bifrost و Zscaler نیز در حال پیشبرد آن هستند.
به نقل از شیا (Xia) و وارون (Varun)، مؤسسان این شرکت، پلتفرم آنها از طریق نصب یک فایل باینری سبک و افزونهٔ مرورگر روی هر دستگاه عمل میکند. طبق اعلام این شرکت، سیستم ظرف ۳۰ دقیقه شروع به ارسال دادههای تلهمتری به داشبورد مرکزی میکند. قابلیتهای فنی کلیدی این ابزار عبارتند از:
- شفافیت MCP: رصد دقیق نحوه اتصال عاملها (Agents) به منابع داده.
- بازرسی محلی: تمامی بررسیها روی دستگاه کاربر انجام میشود و پرامپتها ذخیره نمیشوند.
- mcp-xray: ابزاری متنباز برای تست نفوذ و شناسایی پیکربندیهای آسیبپذیر MCP.
- هشدار و تأیید: سامانه هشدار به توسعهدهندگان پیش از اجرای کدهای پرریسک تولیدشده توسط AI.
بر اساس گزارشهای شرکت، این ابزار هماکنون روی بیش از ۱,۰۰۰ دستگاه در ۱۰ سازمان مختلف مستقر شده است. بررسیها نشان میدهد بهطور متوسط ۱۵ برنامه هوش مصنوعی روی هر دستگاه فعال است که هر کدام به ۵ تا ۱۰ اتصال MCP متصلاند. این سطح از جزئیات به تیمهای امنیتی اجازه داد تا رمزهای متنی (Plaintext) پنهان در تنظیمات را پیدا کرده و نشت کلیدهای API را از طریق تکههای کد متوقف کنند.
برای یک مدیر کسبوکار، این فناوری پذیرش هوش مصنوعی را از یک «قمار» به یک «ریسک مدیریتشده» تبدیل میکند. با انتقال لایه بازرسی به دستگاه کاربر، Traceforce تنش بین بهرهوری برنامهنویس و امنیت سازمان را حل میکند. در واقع، عاملها از جعبههای سیاه به فرآیندهای شفافی تبدیل میشوند که بدون کند کردن سرعت کار، قابل حسابرسی هستند.
گام بعدی شما
- از طریق سایت traceforce.ai برای تست رایگان کنترلهای امنیتی اقدام کنید.
- ابزار متنباز xray را در گیتهاب بررسی کنید تا نقاط ضعف فعلی MCPهای خود را بسنجید.
- لیست دسترسیهای عاملهای هوش مصنوعی در سازمان خود را بازبینی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است؛ برای درک تأثیر تراشههای جدید بر سرعت استنتاج محلی، به تحلیل ما دربارهی Blackwell مراجعه کنید.
گفتگو