تصور کنید در لحظهی یک فروپاشی سیستمی فاجعهبار، متوجه شوید دیگر نمیدانید چگونه بدون کمک ابزارهای خودکار، ریشهی مشکل را پیدا کنید. وقتی عاملهای هوش مصنوعی (AI Agents) — شبیه دستیاران هوشمندی که تمام گزارشها را میخوانند و پیشنهاد میدهند — مسئولیت بررسی هشدارها، شکلدهی به فرضیات، پرسوجو از دادههای تلهمتری، بررسی ارتباط استقرارهای اخیر و اجرای اصلاحات را بهطور خودکار بر عهده میگیرند، مهندسان دچار نوعی «بدهی درک فنی» (Comprehension Debt) میشوند.
این وضعیت یک پارادوکس ایجاد میکند: هرچه اتوماسیون موفقتر عمل کند، انسانها برای لحظهی شکستِ آن آمادگی کمتری خواهند داشت. این پدیده بازتابی از یافتههای سال ۱۹۸۳ پژوهشگری به نام لیسان بینبریج (Lisanne Bainbridge) در مقالهی «تناقضهای اتوماسیون» است. او استدلال کرد که خودکارسازی باعث میشود اپراتورها فقط در شرایط غیرعادی و بحرانی مسئول باشند، در حالی که فرصت تمرین روی کارهای روتین و روزمره را از دست میدهند. بینبریج معتقد بود به دلیل همین مسئله، اپراتورها در واقع به مهارتهای بیشتر و آموزشهای گستردهتری نسبت به دوران پیش از ظهور اتوماسیون نیاز دارند تا بتوانند در لحظات بحرانی عمل کنند.
زمینه و بستر اتوماسیون
سیلوین کالاش (Sylvain Kalache)، مهندس شرکت Rootly، به یاد میآورد که در سال ۲۰۱۲ هنگام کار به عنوان یک SRE در لینکدین، سیستمی برای «خودترمیمی» طراحی کرد. در آن زمان، قابلیتهای هوش مصنوعی به اندازه کافی پیشرفته نبود و آن سیستم تنها در حد یک نمونهی اولیه باقی ماند. اما امروز، آن چشمانداز به یک واقعیت تبدیل شده است.
وقتی یک هوش مصنوعی در نیمهشب یک مشکل ظرفیت ساده را حل میکند تا مهندس مجبور به بیدار شدن نباشد، این اتفاق جادویی به نظر میرسد. اما حقیقت این است که این حوادث روتین دقیقاً همان مسیری هستند که پاسخدهندگان از طریق آنها بهطور «ایمن» شهود و درکی از نحوه رفتار و شکست سیستمهای خود به دست میآورند. این چالشها نشان میدهند که چرا حضور انسان در حلقه (Human-in-the-loop) تنها راهکار قابلاعتماد برای ترمیم سیستمهای عملیاتی AI است تا از خطاهای پیشبینی نشده جلوگیری شود.
در صنعت هوانوردی، این ریسک از طریق شبیهسازیهای سختگیرانه مدیریت میشود. موتورهای توربین مدرن چنان قابلاعتمادند که احتمال خاموشی در پرواز کمتر از یک مورد در هر ۱۰۰ هزار ساعت پرواز موتور است. به دلیل اینکه این اتفاقات بسیار نادر هستند، ممکن است یک خلبان تجاری در تمام دوران حرفهای خود هرگز چنین وضعیتی را در یک کابین واقعی تجربه نکند.
با این حال، وقتی شکست رخ میدهد، خلبانان باید فوراً واکنش نشان دهند. خطر تحلیل رفتن مهارتها در حادثهی پرواز ۲۳۵ شرکت TransAsia Airways به وضوح دیده شد. مدت کوتاهی پس از بلند شدن، ملخ موتور راست بهطور خودکار در وضعیت feather (تغییر زاویه برای کاهش مقاومت) قرار گرفت. اگرچه هواپیما طوری طراحی شده بود که بتواند تنها با موتور چپ پرواز کند، اما خدمه مشکل را اشتباه تشخیص دادند. در نتیجه، هواپیما دچار استال (واماندگی) شد و تنها ۱۱۷ ثانیه پس از اولین هشدار، سقوط کرد.
برای جلوگیری از چنین تراژدیهایی، سازمان هواپیمایی فدرال آمریکا (FAA) کاپیتانها را موظف میکند که هر ۶ ماه یکبار تمرینات تکراری یا بررسیهای مهارت را بگذرانند. این تمرینات شامل بازسازی شرایط اضطراری نادر، مانند شکست موتور در هنگام برخاستن است. در دنیای نرمافزار، هزینه شکست بهندرت منجر به مرگ انسان میشود، اما بدهی فنی ایجاد شده به همان اندازه واقعی و خطرناک است.
برای مقابله با این موضوع در حوزه نرمافزار، Rootly با همکاری Uptime Labs شبیهسازهای حوادث واقعی را طراحی کرده است. در این تمرینها، مهندسان در جایگاه «فرمانده حادثه» (Incident Commander) قرار میگیرند و باید یک قطعی شبیهسازی شده در یک فروشگاه آنلاین را مدیریت کنند. آنها مجبورند از ابزارهای مشاهدهپذیری استفاده کرده و با ذینفعانی که توسط مدلهای زبانی بزرگ (LLM) شبیهسازی شدهاند، در محیط Slack برای حل بحران هماهنگ شوند.
جزئیات شبیهسازی
این شبیهسازیها مهندسان را مجبور میکند مهارتهای تحت فشار را تمرین کنند که هوش مصنوعی نمیتواند جایگزین آنها شود:
- معنا بخشیدن به اطلاعات ناقص یا متناقض.
- هماهنگ کردن ارتباطات بین تیمهای فنی و مدیران اجرایی، از جمله مدیرعامل و تیم پشتیبانی مشتریان.
- مدیریت فشار عاطفی و روانی در حوادث سطح صفر (SEV0).
- اجرای یک پاسخ ساختاریافته تحت محدودیتهای زمانی شدید.
مشاهدهی غیرفعال، جایگزین تجربه نیست. پاسخدهندگان میتوانند از یک عامل هوش مصنوعی بخواهند سیگنالهایی را که بررسی کرده و شواهد پشت تشخیص خود را توضیح دهد، اما «توضیح» به معنای «تمرین» نیست. تماشای اینکه یک عامل هوش مصنوعی تشخیص خود را توضیح میدهد، شبیه تماشای بازی تنیس سرنا ویلیامز است؛ شما ممکن است منطق بازی را بفهمید، اما تا زمانی که خودتان وارد زمین نشوید، مهارت کسب نمیکنید.
کالاش پیش از این بیش از پنج سال را صرف ساخت مدرسهای برای مهندسی نرمافزار کرد که بر پایه آموزشهای پیشرونده و عملی بنا شده بود. این مدرسه هیچ معلمی نداشت و دانشجویان به جای گوش دادن به سخنرانیها، روی پروژهها کار میکردند. وقتی شرکت Dropbox گزارش داد که فارغالتحصیلان این مدرسه هنوز در عیبیابی (Troubleshooting) بیش از حد بیتجربه هستند، او پروژههایی را ایجاد کرد که دانشجویان را مجبور میکرد زیرساختهایی را که عمداً خراب شده بودند، تشخیص داده و تعمیر کنند.
برای تیمهای مهندسی مدرن، راه حل بازگشت به تمرین فعال است. این شامل تمرینات منظم روی میز (Tabletop) و مهندسی آشوب (Chaos Engineering) است تا اطمینان حاصل شود که شکاف بین نحوه عملکرد سیستم و درک مهندس از آن، به یک درهی عمیق و غیرقابل عبور تبدیل نمیشود. پژوهشگر بینبریج توصیه میکرد که به اپراتورها بهطور منظم کنترل دستی داده شود و از شبیهسازی برای جلوگیری از تحلیل رفتن مهارتها استفاده شود.
اگر تیم شما برای مدیریت قطعیهای «کسلکننده» به هوش مصنوعی تکیه کرده است، احتمالاً کاهش میانگین زمان رفع خرابی (MTTR) امروز را با ریسک یک زمان پاسخدهی فاجعهبار در آینده برای حوادث پیچیده معاوضه کردهاید. تنها راه بستن این شکاف، خراب کردن عمدی چیزها در یک محیط کنترلشده است.
گام بعدی شما
- برگزاری جلسات ماهانه Tabletop برای شبیهسازی سناریوهای شکست سیستم
- پیادهسازی متدولوژی مهندسی آشوب برای تست استقامت تیم در برابر خرابیهای غیرمنتظره
- اختصاص زمان برای عیبیابی دستی (بدون کمک AI) در محیطهای Staging
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو