تصور کنید برنامهنویسی هستید که بهجای بررسی منطق یک کد، فقط چون هوش مصنوعی میگوید «درست است»، آن را تایید میکنید. این تسلیمِ خاموش در برابر مدلها، در حال تحلیل بردن توانایی تفکر انتقادی در مغز انسان است.
به نقل از مقالهای که در ۳۰ سپتامبر ۲۰۲۶ در ohhfishal.net منتشر شد، این روندِ واگذاری تصمیمات فنی به مدلها، نشاندهنده فقدان تخصص در موضوع است و بررسیهای دقیق را با یک اعتماد کاذب جایگزین میکند. این اتفاق در حالی رخ میدهد که ادغام هوش مصنوعی در محیطهای سازمانی به یک استاندارد تبدیل شده است. همانطور که در تحلیل قبلی ما دربارهی گسترش مدلهای کلود در سازمانهای دولتی اشاره کردیم، اکنون تمرکز از «دسترسی به ابزار» به «کیفیت تعامل انسان و ماشین» تغییر کرده است.
در بسیاری از محیطهای کاری، پدیدهای به نام کدنویسی بر اساس حس (Vibe Coding) — شبیه به آشپزی بدون دستور پخت که فقط بر اساس «حس خوب» نمک میزند — به میانبری برای فرار از دشواریهای اثبات فنی تبدیل شده است. در این حالت، توسعهدهنده بهجای استدلال منطقی، بر اساس «احساس درست بودن» خروجی مدل پیش میرود. این رویکرد میتواند منجر به فجایع فنی شود؛ چنانکه پیشتر دیدیم چگونه یک خطای کوچک در کدهای تولید شده توسط AI توانست کل سیستم احراز هویت یک سازمان را متوقف کند.
طبق گزارش این منتقد، اتکای کورکورانه به مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — هزینههای سنگینی دارد:
- پیچیدگی بیش از حد (Overengineering): ساختارهای نرمافزاری بهدلیل پذیرش پیشنهادات مدل بدون تحلیل منطقی، بهشدت پیچیده میشوند.
- راهکارهای ناکارآمد: در یک مورد، مدل پیشنهاد داده بود که تمام وابستگیهای یک بسته داخلی را از منبع اصلی فورک کرده و نگهداری کند، در حالی که استفاده از وصلههای موجود در مخازن استاندارد راهکار سادهتری بود.
- چاه مسموم: وقتی کاربر با پیشفرضهای غلط از مدل سوال میپرسد، یک حلقه بازخورد ایجاد میشود که بهجای اصلاح خطا، آن را تقویت میکند.
این وضعیت پارادوکس خطرناکی ایجاد کرده است؛ بهطوری که تغییر یک تنظیم ساده در یک سیستم فعال، نیاز به تاییدات بیشتری دارد تا پیادهسازی یک معماری بنیاداً غلط که توسط هوش مصنوعی تولید شده است. وقتی متخصصی برای تایید انتخاب خود به مدل رجوع میکند، در واقع توانایی تفکر انتقادی خود را بیش از حد تخمین میزند. این فقدان نظارت انسانی بر دسترسیهای مدلها میتواند به ایجاد حفرههای امنیتی جدی از طریق APIهای بیش از حد دسترسیدار منجر شود.
برای نیروی کار امروز، این یعنی کاهش کاربردی واقعی. توانایی ارسال یک وصله (Patch) اصلاحی به یک پروژه متنباز، بسیار ارزشمندتر از این است که بتوانید سوالی را طوری بپرسید که هوش مصنوعی با آن موافقت کند. تنها راه کاهش «زبالههای نرمافزاری» در اکوسیستم فعلی، اولویت دادن به سادگی بهجای پیچیدگیهای مدلمحور است. برای مقابله با این پیچیدگیها و خطرات احتمالی در لایههای عملیاتی، استفاده از پراکسیهای قطعی برای جلوگیری از تزریق پرامپت در عاملهای MCP به یک ضرورت تبدیل شده است.
گام بعدی شما
- در هر تاییدیه فنی، ابتدا دلیل «چرا این راهکار درست است» را بدون کمک مدل بنویسید.
- تمرین کنید تا کدهای تولید شده توسط AI را با هدف پیدا کردن «اشتباهات منطقی» بازبینی کنید، نه برای تایید آنها.
- روی یادگیری مفاهیم بنیادی تمرکز کنید تا بتوانید در برابر پیشنهادات پیچیده اما بیمورد مدلها مقاومت کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو