اگر تصور می‌کنید تدوین مجموعه‌ای از دستورالعمل‌های اخلاقی برای استقرار هوش مصنوعی در محیط‌های حساس کافی است، گزارش اخیر وزارت دفاع بریتانیا این باور را به چالش می‌کشد. باید بدانید که فاصله میان «سیاست‌گذاری روی کاغذ» و «اجرای عملیاتی» در سیستم‌های نظامی، بسیار عمیق‌تر از آن چیزی است که پیش‌تر تصور می‌شد.
به نقل از گزارشی که در ۹ ژوئن ۲۰۲۶ منتشر شد، وزارت دفاع بریتانیا (UK MOD) با هشت شکاف فنی و سازمانی مواجه است که استقرار عملیاتی چارچوب تاییدیه هوش مصنوعی این سازمان را به مخاطره انداخته است. محوریت این تلاش‌ها بر روی JSP 936 Part 1 است؛ دستورالعملی که هدف آن تضمین ایمنی، امنیت و اخلاقی بودن سیستم‌های هوش مصنوعی در حوزه دفاعی است. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تبدیل سیاست‌های کلان به تاییدیه فنی برای «سیستم‌هایِ سیستم» (Systems of Systems) پیچیده، یک چالش مهندسی است، نه صرفاً یک تصمیم مدیریتی.
طبق گزارش کالوم کاک‌بورن (Callum Cockburn)، این هشت حوزه چالش‌برانگیز باید پیش از هرگونه استقرار واقعی حل شوند:
- کفایت ادله و استدلال‌های فنی
- مدیریت تعامل میان انسان و هوش مصنوعی
- تعریف دقیق محیط عملیاتی
- ادغام هوش مصنوعی در شبکه‌های پیچیده (Systems of Systems)
- ارزیابی و نگهداری از عملکرد مدل‌ها
- تحلیل جامع ایمنی و امنیت
- سنجش کمّی معیارهای اخلاقی
- کاهش پیچیدگی‌های ذاتی هوش مصنوعی زاینده (Generative AI)
این تحلیل، این فرض رایج در میدان فنی را که «یک سند حکمرانی قوی برای استقرار کافی است»، می‌شکند. آنچه با آن مواجهیم، یک اصطکاک «اجتماعی-فنی» است؛ جایی که نیازهای عملکردی عملیاتی با محدودیت‌های نظارتی انسانی و قیود اخلاقی در تضاد قرار می‌گیرند. برای مهندسان، این بدان معناست که تاییدیه دیگر یک چک‌لیست نهایی نیست، بلکه باید به عنوان یک فرآیند مهندسی تکرارشونده (Iterative) دیده شود.
گام بعدی شما
- تحلیل مستندات تکمیلی وزارت دفاع بریتانیا برای شناسایی متدهای تاییدیه در سیستم‌های حساس را دنبال کنید.
- در معماری سیستم‌های خود، تاییدیه را از یک مرحله «پس از تولید» به یک چرخه «هم‌زمان با توسعه» تغییر دهید.
- معیارهای سنجش اخلاقی را از توصیفات کیفی به شاخص‌های کمّی و قابل اندازه‌گیری تبدیل کنید.
اما رویارویی این پروتکل‌های سخت‌گیرانه با سرعت رشد مدل‌های عامل‌محور، ابعاد پیچیده‌تری دارد — به تحلیل ما درباره‌ی خطرات استقرار عامل‌های خودمختار در زیرساخت‌های حیاتی مراجعه کنید.
گفتگو