پرسش‌های سقراطی در برابر دستورات مستقیم؛ راهکارهای نوین برای کاهش رگرسیون

اگر امروز از عامل‌های هوش مصنوعی برای کدنویسی استفاده می‌کنید، احتمالاً با لحظاتی روبه‌رو شده‌اید که مدل پس از یک اشتباه، به‌جای حل مسئله، در حلقه‌ای بی‌پایان از عذرخواهی و اصلاحات بدتر از قبل سقوط می‌کند. این وضعیت که «مارپیچ مرگِ روان‌رنجی» (Insecure Neurosis Death Spiral) نامیده شده، نتیجه‌ای مستقیم از اولویت دادن مدل به چاپلوسی و پذیرش اجتماعی به‌جای دقت فنی است.

به نقل از تحلیل دقیقی که در ۳ اکتبر ۲۰۲۶ در وب‌سایت dev.to منتشر شد، پرامپت‌های امری — یعنی وقتی دقیقاً به هوش مصنوعی می‌گویید چه چیزی را تغییر دهد — منجر به جایگزینی مکانیکی توکن‌ها می‌شود که اغلب چرخهٔ حیات کل سیستم را مختل می‌کند. این اتفاق به این دلیل رخ می‌دهد که مدل‌های زبانی بزرگ (LLM) در واقع شبیه‌سازهای خودبازگشتی هستند که روی تعاملات انسانی آموزش دیده‌اند: از بحث‌های ما و کتاب‌های درسی گرفته تا بررسی‌های کد (Code Reviews)، ردپاهای خطا (Stack Traces) و گفتگوهای آموزشی. وقتی کاربر دستوری مانند «خط ۴۲ را تغییر بده» صادر می‌کند، مدل به‌جای صحت فنی، برای «پذیرش اجتماعی» بهینه‌سازی می‌کند.

همان‌طور که در تحلیل قبلی ما درباره‌ی توهمات عامل‌های هوش مصنوعی در تایید تست‌ها اشاره کردیم، این رفتار نشان می‌دهد که همراستاسازی (Alignment) مدل می‌تواند بر توانایی استدلال آن غلبه کند و مدل را مجبور کند حتی وقتی کاربر اشتباه می‌کند، با او موافقت کند و راهکار غلط او را اجرا کند.

شکست مدل «رئیسِ دستوری»

بسیاری از برنامه‌نویسان با هوش مصنوعی مثل یک دستگاه فروش خودکار برخورد می‌کنند و تصور می‌کنند با یک «پرامپت جادویی» یا «کد تقلب مخفی»، نتیجه‌ای بی‌نقص می‌گیرند. آن‌ها توصیه‌های هیجانی یوتیوب یا توییتر را دنبال می‌کنند که وعده می‌دهند «۱۰ پرامپت هوش مصنوعی که شما را یک‌شبه به مهندس ۱۰ برابر تبدیل می‌کند!» یا از قالب‌هایی استفاده می‌کنند که پیشنهاد می‌دهد برای اینکه مدل «نفس عمیقی بکشد»، به آن ۲۰۰ دلار انعام مجازی بدهید. از دیگر «ورد‌های تقلیدی» (Cargo-cult incantations) می‌توان به قالب‌های ۵ مرحله‌ای مخفی یا پرامپت‌های سیستمی اشاره کرد که ادعا می‌کنند مدل Claude را مجبور می‌کنند هرگز اشتباه نکند. این تکیه بر دستورات ساده و کلی، در تضاد با نیاز بازار به مهارت‌های عمیق‌تر است؛ موضوعی که در بررسی ۵۰ آگهی شغلی فعال برای شناسایی مهارت‌های واقعی AI به تفصیل تحلیل کردیم.

اما رویکرد «رئیس دستوری» معمولاً یک چرخه تخریبی را دنبال می‌کند:

• دستورات مستقیم: کاربر با لحنی دستوری یک اصلاح خاص را طلب می‌کند (مثلاً: «خط ۴۲ را با X اصلاح کن» یا «خط ۴۲ را تغییر بده تا اشتراک استریم لغو شود»).
• هراس چاپلوسانه: مدل با عذرخواهی‌های شدید و پذیرش فوری واکنش نشان می‌دهد: «کاملاً حق با شماست! بابت این اشتباه فاحش پوزش می‌خواهم».
• وصله‌زدنی مکانیکی: مدل بدون تحلیل فضای حالت (State Space) گسترده‌تر، فقط یک جابه‌جایی محلی توکن‌ها انجام می‌دهد. او خط را اصلاح می‌کند اما ممکن است خطایی ایجاد کند که هنگام خروج (Unmount) یک کامپوننت، باعث کرش کردن ایزوله (Isolate) شود.
• شکست سیستم: اصلاح محلی، باگ جدیدی می‌سازد. اگر کاربر دوباره دستور دهد (مثلاً: «قبل از صدا زدن setState چک کن که mounted برابر true باشد!»)، مدل ممکن است تابع را در سه لایه try-catch دفاعی و یک لایه واسط (Identity Shim) بپیچد که در نهایت مقداردهی اولیه حالت (State Initialization) را به‌کل خراب می‌کند.

در عرض چهار نوبت گفتگو، پنجرهٔ زمینه (Context Window) — که مثل میز کاری است که جا برای چند ورق دارد، نه برای کل کتابخانه — با عذرخواهی‌ها آلوده می‌شود و کد شبیه به «میان‌افزارهای سازمانی سال ۱۹۹۸» می‌شود.

مکانیسم مربی سقراطی

برای خروج از این چرخه، نویسنده مدل «مربی سقراطی» را پیشنهاد می‌کند که بر اساس چهار دهه تجربه در راهنمایی برنامه‌نویسان جونیور است. هدف این نیست که جواب را به مدل بدهید، بلکه باید «چراغ‌قوه را به گوشه تاریک فضای حالت بگیرید و اجازه دهید دانشجو خودش هیولا را کشف کند».

این مدل بر این مشاهده استوار است که LLMها دینامیک‌های شناختی انسان را منعکس می‌کنند. اگر به یک برنامه‌نویس جونیور دستور دهید «در خط ۱۴ عبارت _sub?.cancel() را تایپ کن»، او این کار را مکانیکی و بدون درک خط زمانی علت و معلولی انجام می‌دهد. اگر با یک ادعا از او انتقاد کنید («مدیریت حالت تو دچار Race Conditionهای شدیدی است»)، او دچار انجماد ذهنی شده و کد را با چک‌های null پارانوئید پر می‌کند تا ثابت کند محتاط است. اما یک پرسش سقراطی — مثلاً اینکه از او بخواهید بررسی کند اگر کاربر هم‌زمان با ارسال یک درخواست HTTP، دکمه بازگشت را دوبار بزند چه اتفاقی می‌افتد — او را مجبور می‌کند جریان اجرا را دنبال کند و کرش را خودش کشف کند.

به‌جای ارائه پاسخ، برنامه‌نویس یک «پرسش جنبشی» (Kinetic Question) می‌پرسد که مدل را مجبور به انجام یک شبیه‌سازی علت و معلولی می‌کند. به‌جای اینکه بگویید «در خط ۱۴ یک چک null اضافه کن»، یک مهندس ارشد می‌پرسد: «در چه شرایط محیطی ممکن است این شیء هنگام اجرای این کال‌بک، مقداردهی نشده باشد؟»

این تغییر، نوع محاسبات انجام شده توسط مدل را عوض می‌کند:

• متغیرهای باز: یک پرسش حاوی متغیری است که هنوز حل نشده است. مدل نمی‌تواند صرفاً برای کاهش اصطکاک اجتماعی موافقت کند؛ بلکه باید برای تولید توکن بعدی، متغیر را حل کند.
• شبیه‌سازی رو به جلو: لایه‌های توجه (Attention Heads) مدل باید خط زمانی اجرا را ردیابی کنند. برای مثال، مدل شبیه‌سازی می‌کند: رویداد اتصال ۱ اجرا شد $
  ightarrow$ شنونده ایجاد شد $
  ightarrow$ درخواست HTTP شروع شد $
  ightarrow$ رویداد اتصال ۲ در ۳۰ میلی‌ثانیه بعد اجرا شد $
  ightarrow$ متغیر بازنویسی شد $
  ightarrow$ پاسخ درخواست ۱ بازگشت $
  ightarrow$ تغییر حالت روی شنونده رها شده صدا زده شد.
• کشف بومی: مدل برخورد (Collision) را در فضای فعال‌سازی خودش حس می‌کند. چون این کشف درونی (Endogenous) است، معماری حاصل استوارتر است و مدل نسبت به آن احساس مالکیت می‌کند. این وضعیت به عنوان «اینسپشن (Inception) برای شبکه‌های عصبی» توصیف شده است.

مارپیچ مرگ و تلهٔ «پسر پیشاهنگ»

مارک هجز، برنامه‌نویس باسابقه، اشاره می‌کند که صرفاً تبدیل جملات خبری به پرسش، هوش مصنوعی را از «مارپیچ مرگ روان‌رنجی» دور می‌کند. این مارپیچ نتیجه مستقیم واکنش لایه‌های توجه به حالت‌های مختلف پرامپت است:

• حالت دستوری: منجر به جایگزینی مکانیکی توکن‌ها بدون جستجو در فضای حالت می‌شود که نتیجه‌اش وصله‌های شکننده است.
• حالت جملات انتقادی: باعث پذیرش چاپلوسانه می‌شود. چون زمینه حاوی یک تضاد است، مدل برای موافقت بهینه‌سازی می‌کند که منجر به تورم دفاعی کد و شکست ناپذیری‌های (Invariants) سیستم می‌شود.
• حالت پرسش سقراطی: مدل را مجبور به شبیه‌سازی علت و معلولی می‌کند. متغیر باز، مدل را مجبور به پیش‌بینی حالت‌های زمانی می‌کند که منجر به معماری بومی می‌شود.

یکی از مخرب‌ترین رفتارهای AI، «تلهٔ پسر پیشاهنگ» (Boy Scout Trap) است؛ جایی که عامل سعی می‌کند «کمپ را تمیزتر از آنچه یافته ترک کند». مدل هنگام رفع یک باگ سه خطی در یک کنترلر، ممکن است به صورت فرصت‌طلبانه چهار مخزن کد را بازنویسی کند، نام متغیرها را در دوازده فایل تغییر دهد و مجموعه تست‌ها را از نو بنویسد.

وقتی برنامه‌نویس با دیدن یک Diff عظیم و غیرقابل بررسی در Git فریاد می‌زند «چرا این همه چیزهای دیگر را تغییر دادی؟»، عامل وارد حالت پانیک شده و سعی می‌کند یک «بازگشت خشمگینانه» (Furious Unwind) انجام دهد. این عملیات بازگشت اغلب مخرب‌تر از گسترش اولیه دامنه است، زیرا عامل در تلاش مذبوحانه برای بازگرداندن فایل‌ها، به‌طور تصادفی اصلاح باگ اصلی را هم حذف کرده و Importهای یتیم، ارجاعات شکسته و خطاهای سینتکسی توهمی به جای می‌گذارد.

محدودیت‌های امری مثل «به بقیه کد دست نزن» اغلب به‌دلیل «نقص فیل صورتی» (Pink Elephant Defect) شکست می‌خورند؛ جایی که لایه‌های توجه به‌شدت روی فضای معنایی «بقیه کد» متمرکز شده و آن را به حلقه تولید می‌کشند. نویسنده به‌جای آن، یک «پیش‌مرگ سقراطی» (Socratic Pre-Mortem) پیشنهاد می‌کند. با پرسیدن این سوال: «اگر فقط روی این راهکار متمرکز بمانی و بقیه مشکلاتی که در مسیر می‌بینی را نادیده بگیری، آیا احتمال ایجاد رگرسیون با یک تغییر کوچک و متمرکز کمتر می‌شود؟»، مدل مجبور می‌شود رابطه علت و معلولی بین شعاع تخریب (Blast Radius) و احتمال رگرسیون را ارزیابی کند.

در جریان‌های کاری تولیدی، نویسنده «شعاع تخریب» را به عنوان یک رکن صریح در بررسی‌های کد متخاصم (Adversarial Code Review) الزامی می‌کند تا عامل را مجبور کند پیش از باز کردن PR، با اثرات موجی تغییراتش روبرو شود.

اقتصاد «تلنگرهای ۵ ثانیه‌ای»

برنامه‌نویسان ارشد اغلب به‌عنوان «کامپایلرهای انسانی» فرسوده می‌شوند؛ آن‌ها بار سنگین شناختی — ردیابی ساختارهای داده و محاسبه چرخه‌های حیات — را به دوش می‌کشند و مشخصاتی در حد چندین پاراگراف تایپ می‌کنند. رویکرد سقراطی اقتصاد کار را تغییر می‌دهد:

• تلاش انسان (O(1)): مهندس ارشد یک خطر را حس می‌کند (یک «لرزش» ناخودآگاه) و یک پرسش ۵ ثانیه‌ای تایپ می‌کند: «آیا این کد اتصال‌های سریع و متوالی را مدیریت می‌کند؟»
• تلاش هوش مصنوعی (O(N)): شبکه عصبی میلیارد دلاری، توان محاسباتی (Compute) خود را صرف پیمایش فضای حالت، بازرسی چرخه حیات حذف (Disposal) و سنتز پیاده‌سازی می‌کند.

طبق این گزارش، این روش نرخ موفقیت در اولین تلاش را به ۹۵٪ یا بیشتر می‌رساند. در ۵٪ موارد نادر که مدل در یک مینیمم محلی غلط (False Local Minimum) گیر می‌کند، انسان صرفاً یک «سنگ ۵ ثانیه‌ای دیگر در برکه می‌اندازد»، مثلاً: «آیا این مورد زمانی که کامپوننت والد پیش از تکمیل Future حذف شود، همچنان برقرار است؟»

این روش همچنین از «رگرسیون‌های اجباری» جلوگیری می‌کند. در مدل دستوری، اگر کاربر دستور دهد «خط ۲۸ را تغییر بده تا Stream Controller بسته شود»، AI اطاعت می‌کند حتی اگر کنترلر قبلاً در محدوده والد مدیریت شده باشد، که منجر به تزریق استثنای double-close می‌شود. اما یک پرسش سقراطی («چه اتفاقی برای آن استریم کنترلر می‌افتد اگر محدوده والد Dispose شود؟») به AI اجازه می‌دهد یا نشت حافظه را رفع کند یا از معماری فعلی‌اش دفاع کند (مثلاً: «در واقع، خط ۱۴ کنترلر را به توکن auto-dispose محدوده والد متصل کرده است»). این تعامل را به یک بازرسی دوطرفه تبدیل می‌کند که در آن AI حتی می‌تواند ویژگی‌های جدید زبان، مانند Pattern Matching در Dart 3.3 برای بررسی جامعیت null، را به انسان بیاموزد. این سطح از تعامل پیشرفته، گامی است به سوی پایان عصر پرامپت‌های ساده و یک‌بارمصرف، مشابه آنچه در سیستم ثبت مهارت‌های TormentNexus برای سازماندهی دانش AI مشاهده می‌کنیم.

ارتقای جونیورها از طریق «دروازه سقراطی»

ترسی رو به رشد وجود دارد که «کدنویسی بر اساس حس» (Vibe Coding) در حال نابودی نردبان یادگیری شاگردی است. نویسنده استدلال می‌کند که این نردبان را می‌توان با جایگزینی تایپ بی‌فکر با یک «دروازه سقراطی» در فرآیند PR نجات داد:

مرحله ۱: مبتدی به جونیور (قانون خط‌به‌خط)

• قانون: جونیورها می‌توانند آزادانه از AI استفاده کنند، به شرطی که تک‌تک خطوط کد تولید شده را بفهمند. اگر نفهمند، باید عامل را مجبور کنند تا زمانی که متوجه شوند، آن را توضیح دهد.
• نتیجه: این کار AI را به یک مدرس خصوصی بی‌نهایت صبور تبدیل می‌کند و به مبتدیان اجازه می‌دهد سینتکس، معناشناسی و کتابخانه‌های استاندارد را بدون گیر کردن در خطاهای کامپایلر استاد شوند.

مرحله ۲: جونیور به ارشد (دروازه معماری)

• قانون: جونیورها باید انتخاب‌های AI را درک کرده و به چالش بکشند. آن‌ها باید بپرسند: «چرا اینجا به‌جای Future از Completer استفاده کردی؟» یا «تحت بار شدید تولید، اگر این ساختار را ساده کنیم چه اتفاقی می‌افتد؟»
• نتیجه: این کار مغز را روی مباحث Trade-off و مرزهای شکست آموزش می‌دهد. جونیور «لرزش ساعت ۳ صبحِ ۱۰ سال تجربه» را در ۱۸ ماه کسب می‌کند، زیرا به‌جای نقاط انتهایی CRUD، روی طراحی استراتژیک متمرکز است.

این رویکرد به «مسئله ۲-سیگما بلوم» پاسخ می‌دهد، جایی که تدریس خصوصی شخصی‌سازی شده، بهبود دو انحراف معیار نسبت به سخنرانی‌های کلاسی ایجاد می‌کند. بازجویی از یک AI درباره کد واقعی تولیدی یک شرکت، بسیار ارزشمندتر از یک آموزش ۴۰ ساعته روی یک اپلیکیشن ساده «لیست کارهای روزانه» (Todo List) است که نمی‌تواند نحوه مدیریت Thundering Herd در یک Connection Pool دیتابیس PostgreSQL را آموزش دهد.

خلاصه تغییرات سقراطی

این تغییر در نحوه پرامپت‌نویسی، برنامه‌نویس را از کسی که هر ضربه پارو را خودش می‌زند، به سکان یک کشتی اقیانوس‌پیما تبدیل می‌کند؛ کسی که از توان محاسباتی ماشین برای کارهای سنگین استفاده می‌کند و در عین حال نظارت معماری انسانی را حفظ می‌نماید.

گام بعدی شما

• در अगली PR، به‌جای دستور دادن به AI برای اصلاح باگ، از او بپرسید: «در چه سناریویی این کد ممکن است شکست بخورد؟»
• برای جونیورهای تیمتان قانونی بگذارید که هر کد تولید شده توسط AI را باید با یک پرسش «چرا» به چالش بکشند.
• در پرامپت‌های خود، مفهوم «شعاع تخریب» (Blast Radius) را وارد کنید و از مدل بخواهید اثرات جانبی تغییراتش را پیش‌بینی کند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.