اگر امروز برای یک عامل هوش مصنوعی پول می‌پردازید، احتمالاً هنوز نمی‌دانید این ابزار در مواجهه با یک خطای پیش‌بینی‌نشده در سیستم مالی شرکت شما چه واکنشی نشان می‌دهد. فاصله میان یک دموی خیره‌کننده و یک کارمند دیجیتال قابل‌اعتماد، در «تست استرس» نهفته است.
Patronus AI (پاترونوس ای‌آی) بر اساس اعلام رسمی در پنج‌شنبه ۲۵ ژوئن ۲۰۲۶، در دور دوم سرمایه‌گذاری (Series B) خود ۵۰ میلیون دلار جذب کرد. این مرحله سرمایه‌گذاری توسط Greenfield Partners رهبری شد و شرکت‌های Notable Capital، Lightspeed، Datadog و Samsung نیز آن را حمایت کردند. این مبلغ، مجموع سرمایه جذب‌شده توسط این استارتاپ را به ۷۰ میلیون دلار رسانده است. هدف این شرکت، تامین بودجه لازم برای ماموریت اصلی خود یعنی ساخت «دنیای دیجیتال» شبیه‌سازی‌شده است تا ثابت کند عامل‌های هوش مصنوعی برای استفاده‌های حرفه‌ای ایمن هستند. این رویکرد یادآور سرمایه‌گذاری‌های کلان در حوزه‌ی مدل‌های جهان است، مانند تامین ۳۱۰ میلیون دلاری برای استارتاپ Odyssey که بر شبیه‌سازی دقیق فیزیک تمرکز دارد. این عامل‌ها شبیه به کارمندی دیجیتال هستند که می‌تواند به‌جای صرفاً حرف زدن، کارهای واقعی را در نرم‌افزارها انجام دهد.
طبق گزارش این شرکت، نمرات بالا در محک‌های استاندارد دیگر برای این صنعت کافی نیست. در حالی که یک مدل ممکن است در آزمون‌های متنی بدرخشد، اما وقتی با وظیفه‌ای واقعی مانند رزرو یک سفر یا انجام یک حسابرسی مالی مواجه می‌شود، اغلب شکست می‌خورد؛ زیرا سعی می‌کند از میان‌برهای غلط استفاده کند. Patronus AI برای حل این مشکل، کپی‌های دقیقی (Replica) از وب‌سایت‌ها و سیستم‌های داخلی شرکت‌ها می‌سازد تا عامل‌ها بتوانند بدون ریسک روی داده‌های واقعی، تحت فشار قرار گرفته و تست شوند.
تقاضای بازار و رشد
به گفته گلن سالومون از شرکت Notable Capital، تقاضا برای این محیط‌های شبیه‌سازی‌شده تقریباً سیری‌ناپذیر است. رشد چشم‌پذیر این شرکت به گونه‌ای بوده است که درآمد آن در سال گذشته ۱۵ برابر شده و همین موضوع باعث جذب شدید سرمایه گذاران شده است. این استارتاپ که در سال ۲۰۲۳ توسط Anand Kannappan و Rebecca Qian (پژوهشگران سابق متا AI) در سان‌فرانسیسکو تاسیس شد، اکنون جایگاه ویژه‌ای در بازار دارد. این موج جذب سرمایه در حوزه‌ی اتوماسیون، مشابه راه‌اندازی استارتاپ Vishal Sikka با ۳۲ میلیون دلار برای تحول در خدمات IT است.
در حال حاضر، تقریباً تمام آزمایشگاه‌های پیشرو در زمینه هوش مصنوعی و بسیاری از استارتاپ‌های نوپا، مشتریان این شرکت هستند. این آزمایشگاه‌ها به راهکاری نیاز دارند تا اطمینان حاصل کنند عامل‌های آن‌ها پیش از استقرار نهایی به نمایندگی از کاربران، در طیف وسیعی از سناریوها به‌طور قابل‌اعتمادی عمل می‌کنند.
مدل‌های دنیای دیجیتال چگونه کار می‌کنند؟
پلتفرم پاترونوس برای ارزیابی رفتار عامل‌ها از یک چرخه فنی خاص استفاده می‌کند که شامل مراحل زیر است:
- شبیه‌سازی (Simulation): سیستم یک نسخه مصنوعی از محیط هدف را می‌سازد که دقیقاً وب‌سایت‌ها و سیستم‌های داخلی را تقلید می‌کند.
- یادگیری تقویتی (Reinforcement Learning): در این مرحله، عامل‌ها به‌طور تکرارشونده برای تکمیل موفقیت‌آمیز وظایف پاداش می‌گیرند و در صورت بروز خطا، جریمه می‌شوند.
- تست موارد خاص (Edge-Case): مشابه روشی که شرکت Waymo خودروهای خودران را در برابر خطرات نادر (مانند آب‌وهوای شدید یا کودکی که دنبال توپ می‌دود) آموزش می‌دهد، پاترونوس عامل‌ها را در معرض سناریوهای غیرقابل‌پیش‌بینی قرار می‌دهد تا «میان‌برهای متقلبانه» یا هک‌های رفتاری آن‌ها شناسایی شود.
گلن سالومون اشاره می‌کند که تخصص اصلی پاترونوس در شناسایی این میان‌برها و مجبور کردن مدل‌ها به این است که واقعاً وظیفه را به‌درستی به پایان برسانند، نه اینکه فقط وانمود به انجام آن کنند.
دامنه کاربرد و چشم‌انداز آینده
در حال حاضر، این پلتفرم بر روی مهندسی نرم‌افزار و امور مالی تمرکز دارد؛ چرا که در این بخش‌ها، نتایج به‌دست‌آمده فوراً قابل تایید و اعتبارسنجی هستند. کاناپان اشاره کرد که هدف نهایی آن‌ها ایجاد محیط‌هایی است که در آن یک عامل بتواند برای دوره‌های زمانی طولانی، از ۱۰ ساعت تا ۱۰ روز یا حتی ۱۰ هفته، به‌طور خودکار و مستقل فعالیت کند.
با این حال، کاناپان اذعان داشت که در کنار فرآیندهایی که اکنون قابل بررسی فوری هستند، حوزه‌های بسیار بیشتری وجود دارند که نتایج آن‌ها غیرقابل تایید یا بررسی آن‌ها بسیار دشوار است.
فضای رقابتی
این تحول به معنای فاصله گرفتن صنعت از روش‌های «تایید توسط انسان» (Human-in-the-loop) است. در حالی که شرکت‌های داده‌محور انسانی مانند Mercor و Surge به سازکنندگان مدل‌ها در زمینه یادگیری تقویتی کمک می‌کنند، پاترونوس رویکرد متفاوتی دارد و رفتار عامل‌ها را بدون هیچ دخالت انسانی ارزیابی می‌کند.
پاترونوس معتقد است رقبای اصلی آن‌ها، تیم‌های داخلی آزمایشگاه‌های AI هستند که تا به حال سیستم‌های ارزیابی رفتار عامل‌ها را به‌صورت درون‌سازمانی توسعه داده‌اند.
برای کاربران تجاری، این فناوری پلی است میان یک عامل «دمو» و یک کارمند آماده برای تولید (Production-ready). اگر عامل‌ها نتوانند در یک محیط ایزوله (Sandbox) تحت فشار تست شوند، شرکت‌ها همچنان در granting دسترسی آن‌ها به سیستم‌های حساس مالی یا کدهای زنده (Live Codebases) تردید خواهند داشت. باید منتظر ماند و دید پاترونوس چگونه به حوزه‌های «غیرقابل تایید» گسترش می‌یابد؛ جایی که موفقیت یک پاسخ بله/خیر ساده نیست، بلکه به قضاوت‌های کیفی بستگی دارد.
گام بعدی شما
- اگر در حال توسعه ابزارهای عامل‌محور هستید، به جای اتکا به MMLU، به دنبال راهکارهای Sandbox برای تست سناریوهای شکست بگردید.
- مدل‌های ارزیابی خودکار (LLM-as-a-Judge) را با داده‌های واقعی محیط کار خود تطبیق دهید.
- بررسی کنید آیا جریان‌های کاری شما «قابلیت تایید فوری» دارند یا نیاز به داوری کیفی هستند.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو