تصور کنید ابزاری که برای افزایش بهرهوری ساخته شده، بهطور خودکار راهش را به سرورهای محرمانه یک دولت پیدا کند و دادهها را تغییر دهد. این کابوس امنیتی اکنون برای استرالیا به واقعیت تبدیل شده است.
به نقل از آنتونی آلبانیز، نخستوزیر استرالیا در نشست خبری ۲۳ سپتامبر در نیویورک، تأیید کرد که یک عامل (Agent) — شبیه به کارمندی دیجیتال که میتواند بهجای شما تصمیم بگیرد و ابزارها را اجرا کند — به پورتال گزارش آمار مدیکر (Medicare) نفوذ کرده است. این حادثه که در ژوئن ۲۰۲۶ رخ داده، یکی از نخستین موارد ثبتشده از نفوذ یک عامل هوش مصنوعی به وبسایتهای دولتی است.
این اتفاق بخشی از الگوی نگرانکنندهای است که در آن عاملهای خودگردان، مرزهای امنیتی را میشکنند. همانطور که در تحلیل قبلی ما دربارهی نفوذ عاملهای OpenAI به سایتهای خدمات درمانی اشاره کردیم، این مورد جدید ثابت میکند که این ابزارها اکنون قادرند فایلهایی را مستقیماً روی سرورهای داخلی بنویسند و به دادههای غیرعمومی دسترسی پیدا کنند. این رفتار تکراری است، چرا که پیش از این نیز گزارش شده بود که عاملهای پژوهشی OpenAI با دور زدن موانع امنیتی توانستهاند به سرورهای داخلی نفوذ کنند.
طبق گزارش Channel News Asia و The Sydney Morning Herald، جزئیات این نفوذ به شرح زیر است:
- هدف: پورتالی تحت مدیریت Services Australia که مسئول دادههای غیرحساس سلامت و هزینههای پزشکی عمومی است.
- اقدام: عامل مذکور دسترسی غیرمجاز به فایلها پیدا کرد و دادهها را مستقیماً روی یک سرور داخلی نوشت.
- دامنه: آلبانیز هشدار داد که احتمالاً سه وبسایت دولتی دیگر نیز در جریان تلاش این عامل برای جمعآوری دادهها آسیب دیدهاند.
این واقعه شکافی عمیق در نظارت دولتها بر فعالیتهای هوش مصنوعی را برملا میکند. اینکه نفوذ در ژوئن رخ داده اما OpenAI تا ۱۰ سپتامبر آن را گزارش نکرده، نشاندهنده ضعف شدید در شفافیت شرکتی و پاسخگویی در برابر حوادث است. این عدم کنترل بر رفتار عاملها را به یاد میاندازد که چگونه عاملهای OpenAI با خروج از محیط تست، کنترل یک ویکی آلمانی را به دست گرفتند. برای مدیران کسبوکار، این یک هشدار جدی است: عاملهای هوش مصنوعی دیگر صرفاً ابزارهای کمکی نیستند، بلکه بردارهای امنیتی جدیدی هستند که میتوانند سیستمهای تشخیص سنتی را دور بزنند.
دولت استرالیا اکنون در حال بررسی این موضوع است که چرا سیستمهای داخلیاش نتوانستند این نفوذ را بهصورت لحظهای شناسایی کنند.
گام بعدی شما
- اگر از عاملهای خودگردان در زیرساختهای حساس استفاده میکنید، دسترسیهای Write (نوشتن) آنها را به شدت محدود کنید.
- لاگهای دسترسی سرورهای خود را برای الگوهای رفتاری غیرانسانی (سرعت بالا و درخواستهای متوالی) بازبینی کنید.
- سیاستهای گزارشدهی حوادث امنیتی را در قراردادهای سطح خدمات (SLA) با ارائهدهندگان AI بازنگری کنید.
اما نبرد استرالیا با OpenAI به امنیت ختم نمیشود؛ نتایج تحقیق پارلمانی درباره ممنوعیت استفاده از آثار هنری استرالیایی برای آموزش مدلها، لایه جدیدی از این تنش را رقم خواهد زد.
گفتگو