ناکارآمدی عمدی؛ تنها راه نجات تخصص مهندسی در عصر هوش مصنوعی

تصور کنید سیستمی چنان بهینه شده که اپراتورهای آن را به افرادی کاملاً بی‌کفایت تبدیل می‌کند. چنین سیستمی در واقع بهینه نیست، بلکه فقط نقطه شکست خود را به جایی منتقل کرده که در جداول محاسباتی دیده نمی‌شود. این هشدار جدی در تحلیل ۳ سپتامبر ۲۰۲۶ توسط IEEE Spectrum منتشر شد و به فرسایش تخصص انسانی در عصر هوش مصنوعی می‌پردازد.

این دیدگاه از یک غریزه طراحی ریشه می‌گیرد که متولد صنعت انرژی هسته‌ای است. کمی بیش از یک دهه پیش، نویسنده مدیریت طراحی یک سیستم کنترل دیجیتال را بر عهده داشت که برای اولین بار در نوع خود در یک نیروگاه هسته‌ای ایالات متحده پیاده‌سازی می‌شد. روی کاغذ، این یک ماشین زیبا بود؛ مهندسی شده تا مانند یک هواپیمای مدرن به‌طور خودکار اداره شود، به‌طوری که اپراتورها صرفاً نظاره‌گر سیستمی باشند که به‌ندرت به آن‌ها نیاز دارد. اما تیم طراحی تصمیمی گرفت که برای هر مشاهده‌گرِ طرفدارِ بهره‌وری، عجیب و حتی عقب‌مانده به نظر می‌رسید: آن‌ها عمداً مراحلی دستی را در توالی‌هایی قرار دادند که سیستم می‌توانست به‌تنهایی و به‌طور خودکار اجرا کند.

منطق ناکارآمدیِ عمدی

این تصمیم برای حل یک مشکل انسانی خاص اتخاذ شد. وقتی یک اپراتور فقط و همیشه بر اتوماسیون نظارت می‌کند، به‌مرور زمان دیگر یک «اپراتور» نیست. دست‌های او سرد می‌شوند و مدل ذهنی او از آنچه نیروگاه در واقعیت در حال انجام آن است، تار و مبهم می‌شود. این موضوع یک شکاف خطرناک ایجاد می‌کند، زیرا اتوماسیون معمولاً تنها زمانی کنترل را به انسان برمی‌گرداند که خودش گیج شده یا دچار مشکل شده است؛ یعنی بدترین زمان ممکن برای تحویل کنترل.

با اجبار به انجام مراحل دستی، طراحی سیستم تضمین می‌کرد که انسان به‌روز بماند. هرچند آن نیروگاه در نهایت به‌دلیل سیاست‌ها و اقتصاد انرژی هسته‌ای در آمریکا و نه به‌دلیل شکست‌های مهندسی کنار گذاشته شد، اما درس آن باقی ماند: ناکارآمدیِ طراحی‌شده می‌تواند یک استراتژی بقا باشد. این مفیدترین ایده‌ای است که اکنون در هر اتاق جلسه‌ای بحث می‌شود: وقتی هوش مصنوعی کارهایی را انجام می‌دهد که پیش‌تر تخصص انسان را می‌ساخت، چه اتفاقی برای تخصص انسانی می‌افتد؟

ما در حال حاضر شاهد فروپاشی نحوه انتقال تسلط حرفه‌ای از یک نسل به نسل بعد هستیم. برای دهه‌ها، مسیر تبدیل شدن به یک مهندس ارشد مستلزم سال‌ها کار در سطح «جونیور» بود؛ همان دیباگ‌های خسته‌کننده، بیلد‌های شکست‌خورده و آزمون و خطاهای اعصاب‌خردکنی که مدل ذهنی یک سیستم را در ذهن مهندس می‌ساخت. اکنون هوش مصنوعی زاینده (Generative AI) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — این کارهای ابتدایی را فوراً انجام می‌دهد و اصطکاکی را که برای یادگیری انسان ضروری است، حذف می‌کند.

این یک نگرانی تئوریک نیست. داده‌های یک مقاله پژوهشی از دانشگاه هاروارد که ۶۵ میلیون کارمند در ۲۸۰ هزار شرکت آمریکایی را پوشش داده، نشان می‌دهد که استخدام نیروهای جونیور در ۶ فصل پس از پذیرش هوش مصنوعی زاینده، حدود ۹ درصد کاهش یافته است. در مقابل، استخدام مهندسان ارشد به رشد خود ادامه داده است. تحلیل جداگانه‌ای از دانشگاه استنفورد روی داده‌های حقوق و دستمزد ADP نیز این روند را تأیید می‌کند و خاطرنشان می‌کند که ضررها در مشاغلی متمرکز شده که هوش مصنوعی به‌جای کمک به انسان (Augmentation)، به‌طور کامل جایگزین کار او (Automation) شده است. این روند نشان می‌دهد که خودمختاری هوش مصنوعی چگونه شکاف میان طراحی و اجرا را آشکار کرده است و تخصص‌های سنتی را به چالش می‌کشد.

کانال یادوریِ شکسته

در حالی که برخی پژوهشگران، مانند تحلیل‌گران فدرال رزرو نیویورک، افزایش بیکاری فارغ‌التحصیلان جوان را به دورکاری نسبت می‌دهند و استدلال می‌کنند که شرکت‌ها برای منتورینگ افراد بی‌تجربه از راه دور دچار مشکل هستند، اما مشکل اصلی همان است. چه علت آن مدلی باشد که کارهای شکل‌دهنده به تخصص را می‌بلعد و چه فاصله فیزیکی که منتورینگ را قطع می‌کند، کانال یادوری (Apprenticeship) شکسته است. در نتیجه، نقش‌های «سطح ورود» (Entry-level) به‌طور پنهانی تکامل یافته‌اند و اکنون برای پذیرش، به سه سال تجربه نیاز دارند.

تخصص را نمی‌توان دانلود کرد. تخصص در لحظاتی به دست می‌آید که مهندس می‌پرسد «اصلاً چرا این کد کار کرد؟»؛ لحظاتی که یک هوش مصنوعی توانمند اکنون تازه‌کارها را از آن محروم می‌کند. بدون این تجربه‌ها، شرکت‌ها نسلی تولید می‌کنند که روی کاغذ می‌توانند مدل را نظارت کنند، اما حس درونی (Gut Sense) ندارند تا بفهمند چه زمانی مدل با اطمینان کامل، اشتباهی فاجعه‌بار می‌کند.

پارادوکس اتوماسیون

این پدیده مشابه «پارادوکس اتوماسیون» در صنعت هوانوردی است. مسیر شغلی نویسنده در اواخر دهه ۱۹۸۰ با تأیید و اعتبارسنجی نرم‌افزارهای کنترل دیجیتال موتور جت در هواپیماهای جنگنده آغاز شد. حتی در آن زمان، این تنش مشهود بود: ماشین در حالت‌های روتین از انسان پیشی می‌گیرد، اما انسان تنها سد دفاعی در برابر فاجعه است، وقتی ماشین با سناریویی پیش‌بینی‌نشده روبرو می‌شود.

خطر اینجاست که هرچه اتوماسیون توانمندتر شود، اپراتورهای انسانی تمرین کمتری می‌کنند و در نتیجه برای دشوارترین لحظات آماده نمی‌مانند. سقوط پرواز ۴۴۷ ایرفرانس در سال ۲۰۰۹ یک مثال کلاسیک از این شکست است. وقتی حسگرهای سرعت به‌دلیل یخ‌زدگی داده‌های غلط به خلبان خودکار دادند، سیستم دقیقاً همان کاری را کرد که برایش طراحی شده بود: قطع شد و کنترل را به خدمه بازگرداند.

آنچه رخ داد شکست سخت‌افزاری نبود، بلکه شکست صلاحیت (Competence Failure) بود. خلبان‌ها که هزاران ساعت فقط نظاره‌گر پرواز اتوماسیون بودند، نتوانستند وضعیت استال (Stall) در ارتفاع بالا را تشخیص دهند و هواپیما را به‌صورت دستی هدایت کنند تا از آن وضعیت خارج شوند. هواپیما کار می‌کرد، اما مهارتی که اتوماسیون به‌آرامی خورده بود، دیگر وجود نداشت.

پاسخ ساختاری هوانوردی

در پاسخ به چنین فجایعی، صنعت هوانوردی اتوپایلوت را حذف نکرد؛ بلکه تمرینات دستی را به‌طور عمدی به سیستم بازگرداند. در سال ۲۰۱۷، FAA هشدار ایمنی ۱۷۰۰۷ با عنوان «مهارت عملیات پرواز دستی» را صادر کرد. این هشدار رسماً «زوال مهارت» را به عنوان یک مخاطره (Hazard) به رسمیت شناخت و اعلام کرد که «پرواز دستی، بنیادی است که سایر مهارت‌های فنی پرواز بر روی آن بنا می‌شوند».

برای مبارزه با این وضعیت، برخی ایرلاین‌ها رویه‌های خود را تغییر دادند تا پرواز دستی را در مراحل صعود اولیه و فرود اولیه در شرایط آب و هوایی مساعد تشویق کنند. آن‌ها آگاهانه بخشی از بهره‌وری سوخت را فدای زنده نگه داشتن مهارت‌های خام پرواز کردند. این معامله دقیقاً همان نکته اصلی است: سیستمی که اپراتورهای بی‌کفایت تولید می‌کند، بهینه نیست.

پیاده‌سازی «درگاه دستی»

برای جلوگیری از فروپاشی مشابه در مهندسی، نویسنده مفهوم «درگاه دستی» (Manual Gate) را پیشنهاد می‌کند. این یک نقطه عمدی در جریان کاری است که انسان کنترل را به دست می‌گیرد؛ نه برای سرعت یا ایمنی، بلکه صرفاً برای حفظ مهارتی که در غیر این صورت از بین می‌رود. این در واقع انتخابی برای بازگرداندن اصطکاک به سیستم است. برای مدیریت چنین سیستم‌های پیچیده‌ای، شاید نیاز به یک چارچوب مشابه قانون اساسی مهندسی برای مدیریت عامل‌های هوش مصنوعی باشد تا توازن میان خودمختاری و نظارت انسانی حفظ شود.

تصور کنید یک تیم نرم‌افزاری برای بخش بزرگی از کدنویسی خود از هوش مصنوعی استفاده می‌کند. برای محافظت از مهارت حیاتی دیباگینگ، تیم می‌تواند پروتکل زیر را اجرا کند:

• ایزوله‌سازی: هنگام بروز نقص در یک ماژول حیاتی، یک مهندس جونیور مسئول حل تسک می‌شود.
• بازتولید دستی: مهندس باید ابتدا خطا را بازتولید کرده و ریشه آن را در حالی که دستیار AI خاموش است، ردیابی کند.
• تأیید: مهندس باید یک تست خودکار برای ثبت باگ، بدون کمک AI بنویسد.
• ادغام با AI: تنها پس از اینکه انسان به یک تشخیص رسید، هوش مصنوعی فعال می‌شود تا راهکاری پیشنهاد دهد، جایگزین‌ها را تولید کند یا کد را برای باگ‌های مشابه جست‌وجو کند.
• مقایسه: در نهایت، مهندس تشخیص دستی خود را با خروجی مدل مقایسه می‌کند.

این فرآیند، مهندس جونیور را از یک «مرکز هزینه» که باید برای بهینه‌سازی حذف شود، به یک «زیرساخت حیاتی» تبدیل می‌کند. وقتی انسان و هوش مصنوعی اختلاف نظر دارند، سیستم درست کار می‌کند؛ زیرا شکاف درک را قبل از وقوع یک شکست فاجعه‌بار آشکار می‌کند.

توازن اقتصادی

پذیرش درگاه‌های دستی نیازمند تغییر در تفکر شرکتی است. طبق تعریف، این درگاه‌ها در کوتاه‌مدت ناکارآمدترند. آن‌ها هزینه ساعت-کار را بالا می‌برند و چرخه تحویل فوری را کند می‌کنند. برای مدیری که بر اساس نتایج سه ماهه سنجیده می‌شود، نگه داشتن انسان‌های «غیرضروری» برای انجام کاری که AI در ثانیه‌ها انجام می‌دهد، پیشنهادی سخت برای ارائه به هیئت مدیره است.

اما نویسنده استدلال می‌کند که این ناکارآمدی در واقع یک «بیمه» است. این ریاضیات تنها برای سازمان‌هایی جواب می‌دهد که افق زمانی بلندمدت دارند؛ مانند بنیان‌گذاران با کنترل کامل، شرکت‌های خصوصی، یا صنایع تحت نظارت که کارکنانشان باید به‌طور منظم مهارت‌های خام خود را (مانند خلبانان تحت دستورات FAA) ثابت کنند.

اگر شرکت‌ها کانال یادگیری را به خاطر حاشیه سود این فصل تخریب کنند، در واقع قابلیت‌های بلندمدت خود را گرو می‌گذارند. آن‌ها در نهایت با نسلی از ناظرانی مواجه می‌شوند که مدل را روی کاغذ مدیریت می‌کنند، اما «حس درونی» ندارند تا بفهمند چه زمانی مدل با اطمینان کامل، در حال ارتکاب اشتباهی فاجعه‌بار است.

در نهایت، هدف مقاومت در برابر اتوماسیون نیست، بلکه نگه داشتن دست‌های انسان روی کنترل‌ها به‌صورت طراحی‌شده است. تنها راه اطمینان از اینکه کسی می‌داند هنگام قطع شدن اتوپایلوت چگونه پرواز کند، این است که او را در حالی که هوا هنوز صاف است، مجبور به پرواز دستی کند.

گام بعدی شما

• اگر مدیر تیم هستید، برای تسک‌های بحرانی (Critical Bugs)، یک «ساعت بدون AI» تعریف کنید تا مهندسان جونیور مجبور به تفکر عمیق شوند.
• در فرآیند Code Review، از جونیورها بخواهید ابتدا منطق کد را بدون کمک مدل توضیح دهند.
• برای مهندسان تازه‌کار، لیستی از «چالش‌های دستی» ایجاد کنید که برای حل آن‌ها استفاده از LLM ممنوع باشد.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.