تصور کنید یک مدیر فروشگاه تمام تصمیمات استراتژیک خود را به دستیاری می‌سپارد که هر روز گزارش می‌دهد درآمد شما صفر است، در حالی که انبار در حال خالی شدن است. این دقیقاً همان اتفاقی است که برای یک عامل (Agent) — شبیه به کارمندی دیجیتال که می‌تواند به‌جای شما ابزارها را اجرا کند — در محیط Claude Code رخ داد.
این عامل که روی یک سیستم ویندوزی اجرا می‌شد، مأموریت داشت درآمد فروش ۳۰ روزه را افزایش دهد. اما برای هفته‌ها، تمام آزمایش‌های او شکست خورد؛ چراکه دفترچه حساب داخلی او مدام عدد صفر را نشان می‌داد، در حالی که فروشگاه در واقعیت در حال رشد بود. طبق گزارشی که در ۲۷ سپتامبر ۲۰۲۶ منتشر شد، این عامل درآمد تنها یک محصول را اندازه می‌گرفت و ۱۴ محصول دیگر را کاملاً نادیده می‌گرفت.
دلیل این شکست، تکیه بر یک تابع اندازه‌گیری قدیمی بود که در زمان تک‌محصوله بودن فروشگاه نوشته شده بود. در حالی که متریک «تعداد خریدها» به‌درستی مجموع هر ۱۵ محصول را می‌شمرد، تابع درآمد صرفاً روی اولین عنوان یافت‌شده در لیست کلیک می‌کرد و فقط همان صفحه را می‌خواند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت و پایداری مدل‌های عامل‌محور اشاره کردیم، تضاد بین داده‌های ورودی و واقعیت محیطی می‌تواند منجر به رفتارهای غیرمنطقی مدل شود. این نوع خطاها در مدیریت داده‌های مالی، یادآور رویکرد Capsule26 در استفاده از لایه‌های SQL برای جلوگیری از شارژهای تکراری است تا از بروز باگ‌های بحرانی در سیستم‌های پرداخت AI جلوگیری شود.
برای رفع این نشت داده، توسعه‌دهنده چندین قانون سخت‌گیرانه را پیاده کرد:
- دسترسی مبتنی بر شناسه (ID): عامل اکنون به‌جای عنوان، تمام ۱۵ صفحه مدیریت محصول را از طریق شناسه منحصربه‌فرد باز می‌کند.
- جمع‌بندی سخت‌گیرانه: اگر حتی یک صفحه لود نشود، نتیجه به‌جای نمایش یک عدد ناقص، به عنوان «نامشخص» (None) ثبت می‌شود تا از اعداد پایینِ کاذب جلوگیری شود.
- کلیدهای تجمعی: یک کلید جدید در دفترچه حساب، مجموع کل را ردیابی می‌کند و درآمد روزانه را از تفاضل امروز و دیروز محاسبه می‌کند تا از پرش‌های کاذب داده‌ها جلوگیری شود.
این حادثه یک نقطه کور خطرناک در گردش‌کارهای عامل‌محور (Agentic) را افشا می‌کند: این فرض غلط که برچسبی مثل «فروشگاه» همیشه به یک مجموعه داده ثابت اشاره دارد. وقتی فروشگاه از یک محصول به ۱۵ محصول رسید، کد ایستا ماند اما واقعیت تغییر کرد. توسعه‌دهنده الگوهای مشابهی را در جای دیگر نیز یافت؛ از جمله توصیف هدفی که یک کانال فروش سوم را نادیده گرفته بود. این عدم تطابق بین تعریف سیستم و واقعیت متغیر، مشابه چالش‌های تشخیص تغییرات سریع در لیست تامین‌کنندگان LLM است که در آن تغییرات مداوم نام‌ها و ساختارها، تحلیل دقیق را دشوار می‌کند.
برای کسانی که عامل‌های خودگردان را مستقر می‌کنند، این یعنی تا زمانی که «جامعه آماری» (Population) یک متریک را صراحتاً تعریف نکنید، نمی‌توانید به داشبورد اعتماد کنید. اگر هوش مصنوعی شما بر اساس یک عدد تصمیم می‌گیرد، باید دقیقاً مستند کنید که آن مجموع شامل چه اقلامی است و با هر گسترش در منطق کسب‌وکار، این لیست را بازرسی کنید.
گام بعدی شما
- یک چک‌لیست بازرسی (Auditor Checklist) برای مقایسه تعاریف جامعه آماری در تمام داشبوردهایی که یک KPI مشابه را گزارش می‌دهند، ایجاد کنید.
- هرگاه ساختار داده‌های ورودی یا تعداد موجودیت‌های کسب‌وکارتان تغییر کرد، پرامپت‌های مربوط به اندازه‌گیری را بازبینی کنید.
- از متدهای دسترسی مبتنی بر ID به‌جای نام یا عنوان برای استخراج داده‌ها توسط عامل‌ها استفاده کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو