استارتاپ امنیت سایبری کتدرال (Cathedral) با عامل‌های هوش مصنوعی (AI agents) از راه نرم‌افزارهای اداری و فروش شخص ثالث به سیستم‌های داخلی آنتروپیک (Anthropic) راه یافت. به گفتهٔ کتدرال، این نفوذ به آنتروپیک کمتر از دوازده ساعت طول کشید و به رونوشت جلسات، داده‌های حقوق و پیام‌های اسلک (Slack) رسید.
کتدرال را کارمندان سابق DOGE، ادارهٔ بهره‌وری دولت آمریکا، تأسیس کرده‌اند. این شرکت ابزارهای امنیتی مبتنی بر هوش مصنوعی را به نهادهای دولتی و کسب‌وکارها می‌فروشد. واشنگتن‌پست پیش‌نویس گزارش کتدرال دربارهٔ این نفوذ را بررسی کرده است.
آنتروپیک نفوذ را تأیید کرد، اما با دامنه‌ای که کتدرال توصیف می‌کند موافق نیست. این شرکت همان روز نقاط دسترسی آسیب‌دیده را بست، برنامه‌های شخص ثالث را تا رفع مشکل غیرفعال کرد و مقام‌های فدرال آمریکا را مطلع کرد.
اختلاف بر سر زمان و دامنهٔ نفوذ به آنتروپیک
دو طرف دربارهٔ مدت و عمق نفوذ روایت‌های متفاوتی دارند:
- کتدرال می‌گوید نفوذ در کمتر از دوازده ساعت انجام شد.
- آنتروپیک می‌گوید تلاش برای حمله چند روز طول کشید.
- به گفتهٔ لوگان گراهام (Logan Graham)، عضو تیم قرمز آنتروپیک، کتدرال ابتدا روزها سیستم‌های خود آنتروپیک را بررسی کرد و بعد به سراغ نرم‌افزارهای شخص ثالث رفت.
- کتدرال در این نرم‌افزارها دو آسیب‌پذیری پیدا کرد، اما فقط یکی را گزارش داد.
- آنتروپیک می‌گوید آسیب‌پذیری دوم را خودش پیدا و وصله کرد.
آنتروپیک کتدرال را متهم می‌کند که با افشای ناقص، قوانین برنامهٔ باگ‌بانتی (bug bounty) این شرکت را نقض کرده است. گراهام همچنین گفت هدف‌گرفتن ارائه‌دهندگان شخص ثالث و برداشتن داده از حدود بند حمایت قانونی (safe harbor) برنامه فراتر رفت. با این حال، او از کشف آسیب‌پذیری‌ها استقبال کرد. کتدرال می‌گوید از روش‌های متعارف پژوهش امنیتی پیروی کرده است.
نقطهٔ ورود و داده‌هایی که در دسترس قرار گرفت
پژوهشگران کتدرال از راه برنامه‌های بیرونی مدیریت و فروش وارد شدند که به زیرساخت آنتروپیک متصل بودند. طبق گزارش کتدرال، عامل‌هایی که با مدل‌های پیشرفته کار می‌کردند، مسیرهایی به رونوشت جلسات، داده‌های حقوق، آگهی‌های استخدام و پیام‌های اسلک پیدا کردند.
آنتروپیک تأیید کرد که پژوهشگران به این موارد دسترسی داشتند:
- بخش محدودی از سیستم‌های فروش، منابع انسانی و فناوری اطلاعات
- اطلاعات تماس برخی مشتریان و شرکا
- داده‌های پایهٔ حساب‌های کاربری
به گفتهٔ آنتروپیک، گفت‌وگوهای کاربران با کلود، کد منبع و وزن‌های مدل هرگز افشا نشد.
ادعای ویل دپیو دربارهٔ اسلک
میزان دقیق داده‌هایی که در دسترس قرار گرفت هنوز محل اختلاف است. ویل دپیو (Will Depue)، کارمند سابق اوپن‌ای‌آی (OpenAI)، می‌گوید آنتروپیک این حادثه را کم‌اهمیت جلوه می‌دهد. او به نقل از چند منبع که آن‌ها را بسیار معتبر می‌داند، ادعا کرد کتدرال دسترسی کامل مدیریتی به فضای کاری اسلک داشت، می‌توانست همهٔ پیام‌ها را بخواند و به هر حساب کاربری وارد شود.
دپیو افزود آنتروپیک و اوپن‌ای‌آی هر دو همهٔ اسرار پژوهشی خود را در اسلک نگه می‌داشتند و کلیدهای API مدیریتی در سیستم‌هایشان پراکنده بود. جیکوب کاکسون (Jacob Coxon)، کارمند آنتروپیک که در سپتامبر ۲۰۲۶ از این شرکت جدا شد، پیش‌تر از اجرای پژوهش‌های خطرناک هوش مصنوعی روی نرم‌افزارهای اداری مانند اسلک انتقاد کرده بود.
گراهام گفت منابع دپیو اشتباه می‌کنند. او به دلیل حساسیت موضوع وارد جزئیات نشد، اما نگرانی اصلی دپیو را تأیید کرد: صنعت اکنون باید هر سال امنیت خود را از نو بسازد. دپیو در پاسخ خواست آنتروپیک بگوید دقیقاً کدام ادعاها نادرست است و فاش کند کتدرال به چه چیزهایی دسترسی داشت. او مشکل را به سرعت رقابت هوش مصنوعی نسبت داد؛ رقابتی که در آن مدیران سرعت را بر امنیت مقدم می‌دانند.
واکنش‌ها در صنعت
الکس استاموس (Alex Stamos)، مدیر ارشد امنیت استارتاپ کاگنیشن (Cognition) که از مدل‌های آنتروپیک استفاده می‌کند، به واشنگتن‌پست گفت یافته‌ها را مهم می‌داند. به گفتهٔ او، برنامه‌های شخص ثالث متصل به سیستم‌ها مشکل بزرگی در کل صنعت است و آنتروپیک می‌توانست امنیت سرویس‌های بیرونی خود را بهتر تأمین کند.
آنتروپیک پس از ماه‌ها هشدار دربارهٔ حملات سایبری مبتنی بر هوش مصنوعی، این بار خودش هدف قرار گرفته است. این شرکت احتمالاً بیش از هر شرکت دیگری برای دفاع در برابر حملات هوش مصنوعی آمادگی دارد.
هشدار گراهام دربارهٔ عامل‌های هوش مصنوعی
گراهام هشدار داد مهاجمان همین حالا عامل‌های هوش مصنوعی را شبانه‌روز به کار می‌گیرند و به‌طور مشخص وابستگی‌های بیرونی را هدف می‌گیرند. به گفتهٔ او، حتی مدل‌هایی که نیم تا یک نسل از مرز فناوری (frontier) عقب‌ترند برای چنین حمله‌هایی کافی‌اند و مهاجمان آینده ناگزیر سیستم‌های قدرتمندتری خواهند داشت. این هشدار در حالی مطرح می‌شود که آنتروپیک پیش‌تر دسترسی اینترنت زنده مدل‌های آزمایشی خود را قطع کرده بود.
راه‌حل پیشنهادی آنتروپیک
پیشنهاد گراهام آزمون نفوذ مداوم درون‌سازمانی و بازسازی نرم‌افزارها با راستی‌آزمایی صوری (formal verification) است؛ روشی که به گفتهٔ او هوش مصنوعی اکنون آن را از نظر اقتصادی ممکن کرده است. گراهام نوشت: «احتمالاً باید مدام خودتان را با تیم قرمز بیازمایید. مدل‌های فعلی بسیار خلاق‌اند.» این رویداد در پی تغییرات اخیر آنتروپیک در دفاع‌های امنیتی و مسدودسازی حملات تقطیری رخ داده است.
او اما توضیح نداد کتدرال چطور توانست تا این عمق نفوذ کند، در حالی که آنتروپیک به احتمال زیاد به قدرتمندترین مدل‌های هوش مصنوعی جهان برای دفاع سایبری دسترسی دارد. این نفوذ نشان می‌دهد توان دفاعی هوش مصنوعی هنوز پابه‌پای جریان‌های تهاجمی مبتنی بر عامل پیش نرفته است.
گام بعدی شما
- فهرستی از همهٔ برنامه‌های شخص ثالثی تهیه کنید که به سیستم‌ها و داده‌های داخلی سازمان شما متصل‌اند؛ نقطهٔ ورود کتدرال همین برنامه‌ها بود.
- طبق پیشنهاد گراهام، آزمون نفوذ را به کاری مداوم تبدیل کنید، نه پروژه‌ای مقطعی.
- برای بخش‌های حساس نرم‌افزار، راستی‌آزمایی صوری را بررسی کنید.
گفتگو