تصور کنید یک پاسخ هوش مصنوعی برای مشتری آماده شده، اما ساعت‌ها در صف تأیید یک مدیر که در جلسه است می‌ماند و هرگز ارسال نمی‌شود. برای حذف این شکست‌های خاموش در اتوماسیون، NxFlowAI در ۹ اکتبر ۲۰۲۶ یک ماشین حالت (State Machine) — شبیه به یک نقشه راه سخت‌گیرانه که هر مرحله را به مرحله‌ای دیگر متصل می‌کند — را پیاده‌سازی می‌کند تا هیچ محتوای تولیدشده توسط هوش مصنوعی بدون نظارت انسانی به دست مشتری نرسد.
بیشتر طراحی‌های «انسان در حلقه» (Human-in-the-loop) فقط مسیر ایده‌آل را می‌بینند؛ یعنی جایی که انسان پیش‌نویس را تأیید می‌کند و پیام ارسال می‌شود. اما در واقعیت، مدیران به مرخصی می‌روند یا صف‌ها طولانی می‌شوند و مشتری در خلأ می‌ماند. این چالش دقیقاً همان نقطه‌ای است که قانون «سکوت یعنی رد» برای جلوگیری از توقف عامل‌ها به عنوان یک راهکار جایگزین معرفی شده بود. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های عامل‌محور اشاره کردیم، نبودِ نظارت فعال می‌تواند منجر به توهمات خطرناک شود. به همین دلیل، این سامانه زمان را نه برای تأیید خودکار، بلکه به عنوان محرکی برای ارتقای سطح دسترسی (Escalation) در نظر می‌گیرد.
به نقل از راهنمای فنی NxFlowAI، این گردش‌کار بر اساس ماشین حالتی است که در آن انتقال از وضعیت «در انتظار» به «ارسال‌شده» بدون دخالت انسان غیرممکن است. این سیستم پیش‌نویس‌ها را بر اساس سطح ریسک دسته‌بندی می‌کند:
- ریسک بالا (مانند استرداد وجه یا شکایات): ارتقا بعد از ۱۵ دقیقه؛ انقضا بعد از ۴ ساعت.
- ریسک متوسط: ارتقا بعد از ۱ ساعت؛ انقضا بعد از ۱۲ ساعت.
- ریسک پایین: ارتقا بعد از ۴ ساعت؛ انقضا بعد از ۲۴ ساعت.
برای حفظ تجربه مشتری، سیستم پس از ۳۰ دقیقه یک «پیام نگهدارنده» (Holding Message) ارسال می‌کند. بر اساس مستندات این شرکت، این پیام یک متن ثابت و پیش‌تأییدشده توسط انسان است، نه یک پیش‌نویس تولیدشده توسط هوش مصنوعی زاینده (Generative AI) — مثل یک رسید دریافت که به مشتری می‌گوید «پیام شما رسید و در حال بررسی است» تا ایمنی تضمین شود. این رویکرد سخت‌گیرانه در حذف قدرت تصمیم‌گیری از مدل، یادآور الگوی n8n در جلوگیری از کلاهبرداری‌های مالی است که در آن کنترل نهایی برای جلوگیری از خطاهای بحرانی به انسان بازگردانده شد.
اگر پیش‌نویسی به حد انقضا برسد، سیستم آن را کاملاً حذف کرده و یک تسک دستی برای مالک گفتگو ایجاد می‌کند. این کار مشکل «پیش‌نویس کهنه» را حل می‌کند؛ وضعیتی که در آن پاسخی که ساعت‌ها پیش نوشته شده، به‌دلیل تغییر موجودی کالا یا پیام‌های جدید مشتری، دیگر درست نیست.
برای توسعه‌دهندگان، این رویکرد تمرکز را از کیفیت مدل به طراحی صف منتقل می‌کند. تیم‌ها با ثبت میانگین زمان تأیید و تعداد انقضاهای هفتگی، می‌توانند گلوگاه‌های عملیاتی را شناسایی کنند؛ مشکلاتی که هیچ مقدار مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن از مدل — نمی‌تواند آن‌ها را حل کند.
پیاده‌سازی این قوانین نیازمند اندازه‌گیری زمان ارتقا بر اساس ساعات کاری واقعی است تا مدیران در ساعت ۳ صبح با اعلان‌های سیستمی بیدار نشوند. هدف این است که انسان دروازه‌بان نهایی باقی بماند، بدون اینکه خودش تبدیل به گلوگاه اصلی شود.
گام بعدی شما
- صف‌های «در انتظار» فعلی خود را بررسی کنید تا ببینید چند پیش‌نویس پیش از رسیدن به چشم انسان، منقضی یا بی‌اعتبار می‌شوند.
- برای پیام‌های حساس، یک سیستم ارتقای زمانی (Timeout) تعریف کنید تا پاسخ‌ها در صف‌های طولانی نمانند.
- پیام‌های نگهدارنده ثابت (Static) را جایگزین پاسخ‌های سریع هوش مصنوعی در مراحل انتظار کنید.
اما داستان سخت‌افزاری مدیریت این صف‌ها در مقیاس میلیونی حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی بهینه‌سازی استنتاج در لبه مراجعه کنید.
گفتگو