اگر مدیر فناوری هستید، احتمالاً متوجه شده‌اید که لپ‌تاپ‌های کارکنانتان دیگر دستگاه‌های ساده‌ای نیستند که فقط نرم‌افزارهای تأییدشده را اجرا کنند. این دستگاه‌ها اکنون به محیط‌های ناپایداری تبدیل شده‌اند که در آن‌ها عامل‌های هوش مصنوعی (AI Agents) — مانند دستیارهایی که به‌جای شما کارهای پیچیده را انجام می‌دهند — و افزونه‌های متفرقه، حفره‌های امنیتی عجیبی ایجاد می‌کنند.
طبق گزارش unite.ai، شرکت Bloom Security برای مقابله با این چالش، ۲۰ میلیون دلار سرمایه در مرحله Seed جذب کرده است. این رویکرد در راستای موج جدیدی از سرمایه‌گذاری‌ها در امنیت هوش مصنوعی است؛ چنان‌که اخیراً شرکت ThreatLocker نیز سرمایه‌ای ۱۹۰ میلیون دلاری برای مهار عامل‌های هوش مصنوعی جذب کرد تا کنترل دقیق‌تری بر دسترسی‌های این ابزارها داشته باشد. ابزارهای سنتی شناسایی و پاسخ به تهدیدات (EDR) برای شکار بدافزارهای کلاسیک ساخته شده بودند، اما هوش مصنوعی زاینده (Generative AI) — مثل یک نویسنده یا برنامه‌نویس سریع که هر لحظه مطالب جدیدی تولید می‌کند — روش نصب ابزارها توسط کارکنان را تغییر داد. امروزه کاربران دستیارهای کدنویسی و افزونه‌های اتوماسیون را مستقیماً از مارکت‌ها نصب می‌کنند و عملاً مسیرهای رسمی خرید و تأیید سازمان را دور می‌زنند.
همان‌طور که در تحلیل‌های قبلی ما درباره امنیت مدل‌های بازمتن اشاره کردیم، توازن بین بهره‌وری و کنترل در عصر مدل‌های زبانی دشوار است. این دور سرمایه‌گذاری توسط Glilot Capital Partners رهبری شد و شرکت‌هایی مثل Okta Ventures و Runtime Ventures نیز در آن مشارکت داشتند. Bloom اکنون با تیمی ۳۰ نفره فعالیت می‌کند و ادعا می‌کند پلتفرمش در ده‌ها سازمان بزرگ در آمریکا و اروپا مستقر شده است.
نقشه‌برداری از نقاط انتهایی هوش مصنوعی
بر اساس مستندات این شرکت، تمرکز اصلی Bloom ایجاد فهرستی زنده از تمام موارد در حال اجرا روی دستگاه است. این فهرست شامل موارد زیر می‌شود:
- ابزارهای هوش مصنوعی و کتابخانه‌های کد محلی
- افزونه‌های مرورگر و پلاگین‌های محیط توسعه
- سرورهای پروتکل زمینهٔ مدل (MCP) — که به عامل‌ها اجازه می‌دهد به سامانه‌های تجاری خارجی متصل شوند
- بسته‌های متن‌باز و به‌روزرسانی‌های پس‌زمینه
ارزیابی ریسک مبتنی بر بستر
این پلتفرم به‌جای استفاده از سیاست‌های خشک «مجاز یا غیرمجاز»، ریسک را بر اساس موقعیت کاربر می‌سنجد. برای مثال، یک افزونه مرورگر ممکن است برای یک کارمند عادی کم‌خطر باشد، اما روی دستگاه مدیری که دسترسی به مدارک مالی یا اعتبارنامه‌های تولید (Production Credentials) دارد، خطرناک تلقی شود.
Bloom با ترکیب تحلیل‌های ایستا و محیط‌های ایزوله (Behavioral Sandboxing)، مسیرهای دور زدن سیاست‌های امنیتی را شناسایی می‌کند. این سامانه به‌طور خاص نظارت می‌کند که عامل‌های هوش مصنوعی چگونه با داده‌ها تعامل می‌کنند تا از تبدیل شدن یک عامل مجاز به یک موجودیت «بیش‌ازحد привиilegدار» (Overprivileged) که به منابع حساس دسترسی دارد، جلوگیری کند. در همین راستا، غول‌های فناوری نیز در حال توسعه مدل‌های تخصصی برای شناسایی تهدیدات هستند؛ برای نمونه، مایکروسافت مدل امنیتی جدیدی را معرفی کرد که دقت خیره‌کننده‌ای در بنچمارک‌های سایبری نشان داد.
قابلیت‌های اجرایی مستقیم
این شرکت فراتر از نمایش وضعیت، اقدام به اجرای مستقیم محدودیت‌ها می‌کند. سامانه می‌تواند مؤلفه‌های آسیب‌پذیر را پیش از نصب مسدود کند یا دسترسی‌های اضافی را پس بگیرد. این حفاظ‌ها (Guardrails) در کانال‌های مختلفی مثل npm، فروشگاه وب کروم و Open VS X اعمال می‌شوند.
تیم بنیان‌گذار این شرکت از متخصصی در Palo Alto Networks، Dig Security و Demisto تشکیل شده است. مدیرعامل، ایتای کرن (Itay Keren)، پیش‌تر ابزارهای مدیریت وضعیت امنیتی را برای سازمان‌های مقیاس‌بزرگ ساخته بود و اکنون این تجربه را در سطح نقاط انتهاییِ بومی-هوش مصنوعی به کار گرفته است.
این چرخش نشان می‌دهد که امنیت نقاط انتهایی در حال ادغام با مدیریت هویت و حکمرانی هوش مصنوعی است. چالش نهایی برای Bloom این است که دقت این نظارت را بدون مختل کردن جریان کاری توسعه‌دهندگان حفظ کند.
گام بعدی شما
- بررسی کنید چه تعداد افزونه‌های AI غیررسمی روی سیستم‌های توسعه‌دهندگان شما فعال است.
- دسترسی‌های عامل‌های هوش مصنوعی خود را از حالت «دسترسی کامل» به «کمترین سطح دسترسی لازم» تغییر دهید.
- نظاره‌گر واکنش غول‌های امنیتی مثل CrowdStrike به این مدل نظارت ذره‌بینی باشید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو