پرش به محتوای اصلی
پرش به محتوای مقاله

چرا عامل‌های انسانیِ بدخواه خطرناک‌تر از هوش مصنوعیِ خودگردان هستند؟

·۲۹ شهریور ۱۴۰۵۳ دقیقه مطالعه۱ بازدید
انسان‌ها، نه هوش مصنوعی خطرناک، بزرگ‌ترین تهدید امنیت سایبری برای سیستم‌های انرژی هستند.
انسان‌ها، نه هوش مصنوعی خطرناک، بزرگ‌ترین تهدید امنیت سایبری برای سیستم‌های انرژی هستند.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

تغییر زاویه دید از «ترس از هوش مصنوعی شورشی» به «ترس از انسان‌های مجهز به AI» در حوزه زیرساخت‌های انرژی؛ تأکید بر اینکه گلوگاه امنیتی، سخت‌افزارهای قدیمی (Legacy) است نه خودِ مدل.

تصور کنید یک نیروگاه هسته‌ای که پیش از اختراع اینترنت ساخته شده، حالا به شبکه‌ای متصل است که هرگز برای امنیت آن طراحی نشده بود. در این وضعیت، خطر قطع برق نه از تصمیم یک هوش مصنوعی «خودآگاه»، بلکه از هکری است که با کمک ابزارهای جدید، حفره‌ای را در نرم‌افزار یک رآکتور ۴۰ ساله پیدا می‌کند. این آسیب‌پذیری ساختاری است، نه الگوریتمی.

به نقل از جاشوا کورمن از مؤسسه امنیت و فناوری (IST)، سوسیوپات‌های انسانی و نه عامل‌های شورشی AI، تهدید اصلی شبکه‌های انرژی جهانی هستند. هوش مصنوعی زاینده (Generative AI) — مثل یک تقویت‌کننده قدرت که سرعت عمل مهاجم را چند برابر می‌کند — اکنون به «ضریب نیرویی» برای این افراد تبدیل شده است. این ابزارها به مهاجمان اجازه می‌دهند بسیار سریع‌تر از تیم‌های دفاعیِ شرکت‌های برق حرکت کنند.

این ریسک در حالی رخ می‌دهد که افکار عمومی روی احتمال تئوریک ۱۰ درصدیِ وقوع یک آخرالزمان توسط AI متمرکز شده است. این نگرانی‌ها شباهت زیادی به دیدگاه‌های تندرو در صنعت دارد که منجر به استعفای زنجیره‌ای پژوهشگران گوگل و آنتروپیک از ترس خودبه‌سازی هوش مصنوعی شد. اما در واقعیت، خطر بسیار پیش‌پاافتاده‌تر و در عین حال فوری‌تر است: تلاقی ابزارهای قدرتمند AI و زیرساخت‌های فیزیکی در حال فروپاشی. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، سرعت تکامل ابزارها همیشه از سرعت به‌روزرسانی سخت‌افزارها پیشی می‌گیرد.

سیستم‌های حیاتی انرژی به دلیل طول عمر بسیار زیاد، به‌طور خاص آسیب‌پذیر هستند. برای مثال، میانگین عمر یک رآکتور هسته‌ای در آمریکا حدود ۴۴ سال است؛ این بدان معناست که اکثر آن‌ها مدت‌ها پیش از آنکه مفاهیم مدرن امنیت سایبری شناخته شوند، ساخته شده‌اند.

انسان‌ها، نه هوش مصنوعی فراری، بزرگ‌ترین تهدید امنیت سایبری برای سیستم‌های انرژی هستند.

بدهی‌های فنی در بخش انرژی سه نقطه شکست اصلی ایجاد کرده است:

  • سخت‌افزارهای رهاشده: بسیاری از شرکت‌هایی که تجهیزات اصلی را طراحی کرده‌اند، اکنون ورشکست شده‌اند و دستگاه‌ها بدون هیچ وصله (Patch) نرم‌افزاری در دسترس باقی مانده‌اند.
  • تأخیر در به‌روزرسانی: برخلاف نرم‌افزارهای IT استاندارد، سیستم‌های تکنولوژی عملیاتی (OT) ممکن است تنها برای به‌روزرسانی در هر سه ماه یا یک سال یک‌بار طراحی شده باشند.
  • کمبود منابع: شرکت‌های کوچک برق اغلب فاقد نیروی انسانی و دانش فنی لازم برای اجرای آخرین تدابیر دفاعی هستند.

انسان‌ها، نه هوش مصنوعی فراری، بزرگ‌ترین تهدید سایبری برای سیستم‌های انرژی هستند.

این وضعیت یک عدم تقارن خطرناک ایجاد می‌کند. سوفی مک‌دووال از بنیاد دفاع از دموکراسی‌ها اشاره می‌کند که در حالی که AI به دشمنان اجازه می‌دهد حملات خود را شتاب ببخشند، مدافعان در تله‌ی سرعت پایینِ نگهداری زیرساخت‌های فیزیکی گیر کرده‌اند. در واقع گلوگاه اصلی، هوشِ مدل نیست، بلکه صلبیت و انعطاف‌ناپذیری سخت‌افزار است.

بنابراین، اولویت تامین‌کنندگان برق باید از ترسِ «عامل‌های شورشی» به سمت «مقاوم‌سازی» سیستم‌های قدیمی OT تغییر کند. نبرد فعلی نه با یک ذهن ماشینی، بلکه با سرعت نفوذ انسان‌هایی است که از AI کمک می‌گیرند.

گام بعدی شما

  • رصد تغییرات مقرراتی در استانداردهای زیرساخت‌های حیاتی که ممکن است جایگزینی اجباری سخت‌افزارهای قدیمی را برای همگام شدن با سرعت تهدیدات AI تسریع کند.
  • بررسی ابزارهای شناسایی دارایی‌های OT برای یافتن تجهیزات «یتیم» در شبکه‌های صنعتی.
  • مطالعه استراتژی‌های Zero Trust برای محیط‌هایی که امکان به‌روزرسانی نرم‌افزاری ندارند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه تراشه‌های جدید چگونه امنیت لبه را تغییر می‌دهند، به تحلیل ما درباره‌ی معماری‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این موضوع نشان می‌دهد که ریسک‌های AI لزوماً در لایه الگوریتمی نیستند، بلکه در تلاقی با زیرساخت‌های فیزیکی تجلی می‌یابند. اعتبار این هشدار از تخصص مؤسساتی چون IST می‌آید که روی نقاط کور سخت‌افزاری متمرکز شده‌اند.

تأثیر برای ایران

به‌دلیل قدمت نسبی بسیاری از تجهیزات صنعتی و نیروگاهی در ایران و محدودیت در دسترسی به به‌روزرسانی‌های رسمی سازندگان خارجی، این ریسک برای زیرساخت‌های داخلی دوچندان است.

·نگاه ما
تحریریه دات‌هوش

تمرکز بر «عامل‌های خودمختار» (Autonomous Agents) در بحث‌های ایمنی AI، نوعی انحراف از واقعیت‌های عملیاتی است. خطر واقعی در «دموکراتیزه شدن» توانایی‌های نفوذ است؛ جایی که AI پیچیدگیِ یافتن آسیب‌پذیری در سیستم‌های Legacy را حذف می‌کند و اجازه می‌دهد حتی مهاجمان کم‌تجربه، ضربات استراتژیک بزنند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.