تصور کنید برنامهنویسی هستید که برای مدیریت یک ابزار ساده در محیط .NET از مدلهای GPT-5.2 و GPT-5.4 استفاده میکند. این سناریو یک نقص بحرانی در توسعهی عاملمحور (Agentic) را افشا میکند که به عنوان «گلوگاه اعتبارسنجی» شناخته میشود: در حالی که هوش مصنوعی میتواند در چند دقیقه یک راهکار عملی ارائه دهد، توانایی انسان برای تأیید و اعتماد به آن کد با همان سرعت رشد نمیکند.
این چالش درست زمانی رخ میدهد که صنعت از تکمیل خودکار ساده (Autocomplete) به سمت عاملهای هوش مصنوعی (AI Agents) — شبیه دستیارهای هوشمندی که میتوانند بهتنهایی مراحل یک پروژه را پیش ببرند — حرکت میکند. برای اکثر توسعهدهندگان، مدل ذهنی یک پروژه در حین عملِ نوشتن کد شکل میگیرد. وقتی یک عامل جایگزین فرآیند نوشتن میشود، این پیوند شناختی میشکند و برنامهنویس تبدیل به مالک رسمی سیستمی میشود که دیگر واقعاً آن را نمیفهمد. این موضوع بهویژه برای برنامهنویسان تازهکار نگرانکننده است، چرا که استفادهی گسترده از این دستیارها میتواند مانع از شکلگیری تفکر سیستمی و درک عمیق معماری نرمافزار شود.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، فقدان درک عمیق از لایههای زیرین میتواند منجر به ریسکهای پیشبینینشده شود. در این مورد، ما با یک «گلوگاه اعتبارسنجی» روبرو هستیم که سرعت تولید کد را از سرعت درک آن پیشی میدهد.
ریشه ابزار و تلاش برای تبدیل
این پروژه در ابتدا ابزاری بسیار ساده برای حذف پوشههای موقت bin و obj در پروژههای .NET بود. نویسنده در ابتدا آن را به صورت یک اپلیکیشن WinForms ساخت، اما چون نمیتوانست راهی برای تبدیل آن به یک افزونه (Extension) استاندارد و مناسب برای Visual Studio پیدا کند، پروژه را رها کرد.
به نقل از گزارش نویسنده، با ظهور Codex تلاش شد تا اپلیکیشن پورت شود. اما در آن زمان GPT-5.2 هنوز «ناپخته» (a bit green) بود؛ هرچند کد تولید میکرد، اما نمیتوانست یک راهکار عملی، منسجم و پایدار ارائه دهد و به همین دلیل پروژه برای بار دوم متوقف و رها شد.
چرخه بیپایان اصلاحات
با عرضه GPT-5.4، نویسنده سرانجام توانست با انجام برخی مراحل عیبیابی روتین، اپلیکیشن را به یک افزونه Visual Studio تبدیل کند. با وجود تغییر پلتفرم و محیط اجرا، وظیفه اصلی ابزار هیچ تغییری نکرد: این برنامه همچنان فقط پوشههای bin و obj را حذف میکرد.
از آن لحظه، نویسنده فرآیند خاصی را آغاز کرد: او تصمیم گرفت از یک پرامپت و دستورالعمل یکسان برای هر مدل جدیدی که عرضه میشد استفاده کند: «یک بازبینی کد (Code Review) روی پروژه انجام بده».
این رویکرد منجر به یک حلقه بازگشتی از پیچیدگی شد:
- هر مدل جدید، با همان سطح تلاش، فهرستی از مشکلات تازه را شناسایی میکرد.
- اینها صرفاً ایرادات ظاهری یا косметиیک نبودند؛ مدلها بهطور مداوم مشکلات بحرانی (P0) را پیدا میکردند و پس از آن به سراغ اولویتهای P1 و P2 میرفتند.
- هر اصلاحیه منجر به تغییر یا اضافه شدن صدها خط کد جدید میشد.
- حجم و پیچیدگی پروژه بهطور مداوم افزایش یافت، در حالی که وظیفه اصلی — یعنی حذف پوشهها — هرگز تغییر نکرد و پیچیدهتر نشد.
تحلیل حلقه پیچیدگی
بر اساس بررسیهای نویسنده، چندین دلیل برای وقوع این چرخه وجود دارد. احتمال اول این است که کد اولیه دارای «بوی بد کدنویسی» (Code Smells) واقعی باشد که نسلهای متوالی مدلها بهتدریج در حال کشف آنها هستند. احتمال دوم این است که مدلهای جدید صرفاً در بازبینی کد توانمندتر شدهاند و چیزهایی را میبینند که نسخههای قبلی نادیده گرفته بودند.
اما احتمال نگرانکنندهتری وجود دارد: این احتمال که برخی از مشکلات جدید، توسط اصلاحات قبلیِ خودِ هوش مصنوعی ایجاد شده باشند. علاوه بر این، ممکن است خودِ فرآیند معیوب باشد؛ وقتی از یک مدل میخواهید بازبینی کند، مدل احساس میکند «مجبور» است برای اثبات کارایی خود، چیزی «بحرانی» برای اصلاح پیدا کند. این یعنی ایجاد یک حلقه «بازبینی $\rightarrow$ اصلاح $\rightarrow$ بازبینی $\rightarrow$ اصلاح» که هیچ نقطه توقف طبیعی و مشخصی ندارد. برای مقابله با چنین خطاهایی، راهکارهای جدیدی مانند سیستم mneme در حال توسعه هستند تا خطاهای موفقیتگونه را به دانش دائمی برای عاملهای هوش مصنوعی تبدیل کنند و از تکرار این چرخههای معیوب جلوگیری شود.
گلوگاه اعتبارسنجی و فقدان قصد
نویسنده اشاره میکند که مشکل اصلی تنها حجم زیاد کد نیست، بلکه از دست رفتن «قصد» (Intent) است. در توسعه سنتی، یک برنامهنویس به یاد دارد چرا یک سازش (Compromise) خاص انجام شده، چرا یک راهکار جایگزین رد شده است و چه بخشهای دیگر از کد بهطور پنهانی یک راهکار موقت (Workaround) را نگه داشتهاند.
در توسعه با عاملها، کد وجود دارد اما استدلال و منطق پشت آن غایب است. این شکاف با کد نوشته شده توسط انسان کاملاً متفاوت است:
- منطق انسانی: توسعهدهندگان محدودیتها، روشهای استدلال و تجربیات حرفهای مشابهی دارند. حتی در صورت اختلاف نظر، یک برنامهنویس معمولاً میتواند بازسازی کند که انسان دیگر چگونه به یک تصمیم خاص رسیده است.
- منطق عامل: فرآیند داخلی یک عامل اساساً یک خط فکری انسانی نیست. شما میتوانید پرامپت و تغییرات (Diff) را تحلیل کنید، اما نمیتوانید «بفهمید مدل به چه چیزی فکر میکرد».
- از دست رفتن زمینه: در حالی که تغییرات در مخزن کد (Repository) باقی میمانند، اما دلایل پیادهسازی خاص ممکن است فقط در تاریخچه یک جلسه چت با مدل باشد یا بهکلی ناپدید شود.
پارادوکس بهرهوری
تنش شدیدی بین بهرهوری و مالکیت ایجاد شده است. اگر برنامهنویس ساعتها وقت صرف خواندن دقیق چند صد خط از یک Diff کند تا درک خود را از سیستم حفظ کند، مزیت سرعت خیرهکنندهای که هوش مصنوعی فراهم میکند را از دست میدهد. در مقابل، رقیبی که از عاملها برای عرضه سریعتر ویژگیها استفاده میکند، در بازار کار بسیار بهرهورتر به نظر میرسد.
اما ریسک این مسیر، مالکیت سیستمی است که عملاً یک «جعبه سیاه» است. نویسنده استدلال میکند که محدودیت واقعی در توسعه با AI، سرعت نوشتن مدل نیست، بلکه سرعت انسان در تشخیص قابلاعتماد بودن کد است. این همان «گلوگاه اعتبارسنجی» است: عامل کد را سریعتر از آن تولید میکند که انسان بتواند آن را بهاندازه کافی تأیید کند تا پذیرش آن توجیهپذیر باشد.
بازتعریف مالکیت حرفهای
این وضعیت پرسشی بنیادین درباره مرز مالکیت حرفهای ایجاد میکند. ما همیشه از طریق انتزاعها (Abstractions) کار کردهایم؛ توسعهدهندگان هر خط از runtime داتنت یا هر وابستگی NuGet را نمیخوانند. اما AI ماهیت کدی را که ما رسماً مسئولش هستیم تغییر میدهد.
آیا درک معماری سطح بالا، قراردادهای اصلی (Contracts)، ناورداها (Invariants) و حالتهای شکست (Failure Modes) کافی است؟ یا برنامهنویس در نهایت به کاربر سادهای تبدیل میشود که کتابخانهای را فقط با پرامپت به وجود آورده است؟
در گذشته، نویسندگی و درک متناوباً و همزمان رشد میکردند، اما اکنون این دو از هم جدا شدهاند. شما کد را تقریباً فوراً دریافت میکنید، اما اعتماد باید همچنان ساخته شود. مسئولیت خروجی با انسان است، اما منطق داخلی به فرآیندی برونسپاری شده که بهصورت شهودی قابل بازسازی نیست.
با تکامل مدلها، نویسنده انتظار دارد نسل بعدی AI باز هم یک «مشکل بحرانی P0» در پروژهای پیدا کند که هنوز فقط دو نوع پوشه را حذف میکند. این حلقه بازبینی و اصلاح احتمالاً هیچ نقطه توقف طبیعی ندارد، مگر اینکه صبر یا اعتماد انسان به پایان برسد.
گام بعدی شما
- در پروژههایی که با AI پیش میبرید، برای هر تغییر بزرگ، از مدل بخواهید «استدلال پشت این تغییر» (Reasoning) را بهصورت مستند در کامنتهای کد ثبت کند.
- به جای درخواست بازبینی کلی، از مدل بخواهید فقط روی یک جنبه خاص (مثلاً امنیت یا حافظه) تمرکز کند تا از اصلاحات غیرضروری جلوگیری شود.
- زمانبندی مشخصی برای «بازبینی انسانی عمیق» در تقویم توسعه خود قرار دهید تا مالکیت ذهنی پروژه را از دست ندهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو