تصور کنید یک عامل هوش مصنوعی در یک لحظه یک اختلاف پیچیده وام را به‌طور کامل حل می‌کند و لحظه‌ای بعد، نمی‌تواند یک شماره تلفن ساده از نام مشتری تشخیص دهد. نیل لاتیا (Neal Lathia)، هم‌بنیان‌گذار و مدیر فنی Gradient Labs، معتقد است این «لبه‌ی دندانه‌دار» (Jagged Edge) در تجربه هوش مصنوعی، ناشی از ضعف مدل نیست، بلکه شکست در مهندسی است.
بسیاری از شرکت‌ها با هوش مصنوعی به‌عنوان ابزاری افقی و همه‌منظوره برخورد می‌کنند، اما صنایع قانون‌مند مثل بانکداری به رویکردی عمودی نیاز دارند. در این محیط‌ها، یک توهم (Hallucination) — شبیه دوستی که خاطره‌ای را با اطمینان اما کاملاً اشتباه تعریف می‌کند — صرفاً یک باگ فنی یا یک نقص کوچک نیست؛ بلکه یک نقض قوانین نظارتی است که پیامدهای حقوقی و قانونی واقعی در دنیای واقعی دارد. این شکاف میان قابلیت‌های عمومی هوش مصنوعی و نیازهای سخت‌گیرانه و دقیق صنعت مالی، دقیقاً همان جایی است که Gradient Labs فعالیت می‌کند.
این شرکت لندنی در سال ۲۰۲۳ توسط مدیران سابق Monzo یعنی دیمیتری ماسین، نیل لاتیا و دانای آنتونیو تأسیس شد تا عامل‌های خودمختاری برای عملیات‌های پرچالش و دارای اصطکاک بالا بسازد. این عملیات‌ها شامل وام‌دهی، وصول مطالبات، مدیریت اختلافات، احراز هویت کسب‌وکارها (KYB)، پذیرش مشتری (Onboarding) و دعاوی بیمه است. برخلاف چت‌بات‌های ساده، این عامل‌ها در بستر صوت، چت و ایمیل فعال هستند و به‌طور سخت‌گیرانه از نرده‌های ایمنی نظارتی پیروی می‌کنند.
به گزارش unite.ai، فناوری Gradient Labs تاکنون مقیاس‌پذیر شده و به بیش از ۳۲ میلیون کاربر نهایی خدمات داده است. فهرست مشتریان آن‌ها شامل پیشروان فین‌تک مانند Wise، Zego، Current، Stash و Rho است. برای تقویت این رشد، شرکت در ژوئن ۲۰۲۶ اعلام کرد که جذب سرمایه سری A خود را به ۲۶ میلیون دلار افزایش داده است. این تامین مالی از چشم‌انداز گسترده‌تر آن‌ها برای اتوماسیون عملیات پیچیده بانکی و فین‌تک از طریق شبکه‌ای از عامل‌های هوش مصنوعی متخصص و متصل‌به‌هم حمایت می‌کند.
زمینه: از Monzo تا Gradient Labs
نیل لاتیا با نزدیک به دو دهه تجربه در یادگیری ماشین و علوم داده به این شرکت آمده است. مسیر شغلی او حوزه‌های فناوری مالی، پلتفرم‌های مصرف‌کننده و تحقیقات دانشگاهی را در بر می‌گیرد. او پیش از تأسیس Gradient Labs، بیش از پنج سال در Monzo فعالیت کرد. در طول دوران حضورش در این بانک دیجیتال، او مسیر پیشرفت را از دانشمند ارشد داده تا مدیر یادگیری ماشین و مهندس ارشد یادگیری ماشین طی کرد.
در Monzo، تمرکز لاتیا بر ساخت زیرساخت‌های یادگیری ماشین بود. او به مقیاس‌پذیری این رشته کمک کرد تا از کاربردهای حیاتی در بخش‌های عملیاتی، مبارزه با جرایم مالی و توسعه محصول پشتیبانی کند. این تجربه به او آموخت که در محیط‌های قانون‌مند، اشتباهات پیامدهای بسیار واقعی دارند و هر اقدام، بدون استثنا، نیازمند یک ردپای حسابرسی (Audit Trail) سخت‌گیرانه است.
پیشینه لاتیا همچنین شامل نقش‌هایی به‌عنوان دانشمند ارشد داده در Skyscanner و موقعیت‌های پژوهشی در دانشگاه کمبریج و کالج دانشگاهی لندن (UCL) است. تحقیقات دانشگاهی و حرفه‌ای او بر روی داده‌های رفتاری، حسگرهای گوشی‌های هوشمند، خدمات دیجیتال شخصی‌سازی شده و سیستم‌های توصیه‌گر متمرکز بود.
دوران حضور او در Monzo دو باور بنیادین را در او ایجاد کرد. نخست اینکه او باور داشت فناوری می‌تواند سرانجام بانک‌ها را از زیر بارهای عملیاتی سنگینی که دهه‌ها مانع پیشرفت این صنعت شده بود، رها کند. دوم اینکه او دریافت هوش مصنوعی عمومی و افقی کافی نخواهد بود، زیرا ظرافت‌های کارهای نظارتی بیش از حد خاص هستند.
ظهور مدل‌های زبانی بزرگ (LLM) — که قادر به استدلال در تعاملات چندمرحله‌ای، مبهم و پیچیده با مشتری هستند — ساخت عامل‌هایی را ممکن کرد که به‌جای صرفاً کمک به انسان، کل گردش‌کارهای قانون‌مند را به‌صورت سرتاسری (End-to-End) مدیریت کنند. لاتیا مشاهده کرد که هیچ ابزار پیش‌ساخته‌ای نمی‌تواند به‌طور ایمن تحت محدودیت‌های نظارتی سخت‌گیرانه عمل کند و همین موضوع، ساخت زیرساخت‌های سفارشی را ضروری کرد.
مهندسی قابلیت اطمینان
لاتیا استدلال می‌کند که تفاوت میان یک هوش مصنوعی شکست‌خورده و یک سیستم موفق، در چارچوب (Framework) پیرامون مدل است. او چندین مؤلفه حیاتی را برای حذف تجربه «لبه‌ی دندانه‌دار» معرفی می‌کند:
- منطق اعتبارسنجی و جایگزین (Fallback): سیستم‌ها باید مدیریت داده‌های ساختاریافته داشته باشند تا اطمینان حاصل شود حقایق پایه، مانند نام‌ها و شماره‌ها، هرگز با هم اشتباه نشوند. اگر سیستمی در یک کار ساده شکست بخورد، این نشان‌دهنده عدم سرمایه‌گذاری در چارچوب پیرامونی است، نه فقدان توانایی مدل خام.
- حلقه‌های ارزیابی: بسیاری از شرکت‌ها مدل‌های پیشرو (Frontier Models) را به سیستم‌هایی متصل می‌کنند که برای رفتارهای مبتنی بر احتمال طراحی نشده‌اند. این سیستم‌ها اغلب دارای یکپارچگی‌های شکننده و داده‌های ناقص هستند. بدون یک حلقه ارزیابی واقعی پیش از انتشار تغییرات، شکست در محیط عملیاتی رخ می‌دهد. این‌ها شکست‌های طراحی گردش‌کار، نظارت و ارزیابی هستند، نه شکست خودِ LLM. این چالش‌ها نشان می‌دهند که چرا در مقیاس سازمانی، لایه ارکستراسیون و مدیریت جریان کار بر مدل‌های بنیادی پیشی می‌گیرد.
- دقت در حل مسئله (Resolution Accuracy): لاتیا خواستار تغییر در معیارهاست. در حالی که اکثر شرکت‌ها برای «containment» یا «دفع تیکت» (یعنی دور کردن مشتری از خط تلفن) بهینه‌سازی می‌کنند، Gradient Labs بر این تمرکز دارد که آیا مشکل واقعاً و به‌درستی حل شده است یا خیر. دقت در حل مسئله اندازه‌گیری می‌کند که آیا عامل «کار درست» را انجام داده است، نه اینکه صرفاً سریع پاسخ داده باشد.
- سیگنال‌های مکمل: دقت در حل مسئله باید با سیگنال‌های دیگر جفت شود، از جمله نرخ تماس‌های تکراری، حجم شکایات و دفعات دخالت انسان. لاتیا هشدار می‌دهد که اگر نرخ دفع مشتری بالا برود اما تماس‌های تکراری و شکایات نیز افزایش یابند، شرکت در حال بهینه‌سازی روی نتیجه‌ای اشتباه است.
حل پارادوکس نرده‌های ایمنی
در امور مالی قانون‌مند، حفاظ‌ها (Guardrails) اغلب هوش مصنوعی را بیش از حد صلب می‌کنند و عامل‌ها را دوباره به چت‌بات‌های محدود تبدیل می‌کنند. Gradient Labs این مشکل را با تبدیل حفاظ‌ها از «دیوارهای مسدودکننده» به «مکانیزم‌های مسیریابی» حل کرده است. لاتیا اشاره می‌کند اشتباه بسیاری از‌ها این است که حفاظ‌ها را دیواری می‌بینند که عامل صرفاً به آن برخورد کرده و برمی‌گردد.
آن‌ها در هر چرخش از گفتگو، دو لایه متمایز از حفاظ‌های قطعی (Deterministic) را اجرا می‌کنند:
- حفاظ‌های مشتری: این لایه آنچه را که مشتری می‌گوید بررسی می‌کند. این حفاظ‌ها برای شناسایی آسیب‌پذیری‌ها، مشکلات مالی یا مشتریانی که در حال ثبت شکایت رسمی هستند، طراحی شده‌اند.
- حفاظ‌های عامل: این لایه در جهت مخالف عمل می‌کند. پیش از ارسال پیام، بررسی می‌کند که آنچه عامل قصد بیان آن را دارد، با قوانین نظارتی مطابقت داشته باشد.
وقتی یک حفاظ فعال می‌شود، سیستم به‌سادگی اقدام را مسدود نمی‌کند. در عوض، عامل را به رویه صحیح هدایت (Reroute) می‌کند. این فرآیند شفاف است و به اپراتورهای انسانی اجازه می‌دهد استدلال عامل و دلیل اتخاذ یک اقدام خاص را مشاهده کنند.
از آنجا که این حفاظ‌ها قطعی هستند، در تمام طول عمر عامل فعال می‌مانند و نه فقط در پایان گفتگو. این امر به شرکت اجازه می‌دهد تا به عامل‌ها در ارتباطات حساس اعتماد کند و آن‌ها را برای موارد استفاده در مقیاس بالا به‌صورت پیش‌بینی‌پذیر سفارشی‌سازی کند.
علاوه بر این، هر جنبه‌ای از فرآیند استدلال عامل مجبور نیست از یک LLM عبور کند. به عامل آموزش داده می‌شود که چگونه درباره یک وظیفه فکر کند، به چه داده‌ای دسترسی داشته باشد و از چه ابزارهایی استفاده کند. این ترکیب به او اجازه می‌دهد وظایف مشروع را به جای رد کردن هر چیزی که صرفاً شبیه به یک کار غیرمجاز است، به پایان برساند.
مسیر رسیدن به خودمختاری
دستیابی به خودمختاری در بانکداری نیازمند استراتژی است که لاتیا آن را «خودمختاری مرحله‌بندی شده» (Staged Autonomy) می‌نامد. او نسبت به تله «کمک‌خلبان» (Co-pilot) هشدار می‌دهد؛ جایی که هر اقدامی توسط انسان تأیید می‌شود چون ایمن‌تر به نظر می‌رسد. در واقعیت، وقتی هوش مصنوعی اکثر موارد را درست انجام می‌دهد، بازبین‌ها اغلب اقدامات را بدون بررسی واقعی تأیید می‌کنند. این یعنی ایمنی در هر صورت از دست می‌رود و حجم کاری کاهش نمی‌یابد؛ بلکه فقط فرآیند سریع‌تر می‌شود در حالی که ارزش به‌دست‌آمده کاهش می‌یابد.
برای جلوگیری از این اتفاق، Gradient Labs عامل‌ها را با مجموعه‌ای بزرگ و زنده از پرونده‌های واقعی می‌سنجد. یک عامل تنها زمانی در یک حوزه خاص، مانند بررسی‌های KYC یا اختلافات، استقلال می‌گیرد که قابلیت اطمینان خود را در برابر این محک‌ها ثابت کرده باشد. حتی پس از استقرار در محیط عملیاتی، بررسی انسانی روی نمونه‌ای از تصمیمات حفظ می‌شود. این رویکرد برای غلبه بر موانع حاکمیتی و نبودِ نظارت بر فرآیندها که معمولاً مانع گسترش عامل‌های هوش مصنوعی در سازمان‌ها می‌شود، حیاتی است.
لاتیا همچنین بر اهمیت «برگشت‌پذیری» (Reversibility) تأکید می‌کند. اگر یک تصمیم یا اقدام قابل بازگشت باشد، عامل سریع‌تر از مواردی که اقدام دائمی و غیرقابل بازگشت است، خودمختاری کسب می‌کند.
نمودار سازمانی انسان-عامل
با افزایش توانمندی عامل‌ها، نقش انسان از هماهنگ‌کننده به داور تغییر می‌کند. لاتیا معتقد است انسان‌ها باید در تصمیماتی که نیاز به صلاحدید صادقانه دارند یا پیامدهای بزرگی برای مشتری دارند (مانند نتایج اعتباری یا اختلافات مالی)، در حلقه باقی بمانند. این موضوع صرفاً مسئله توانایی نیست، بلکه موضوع مسئولیت‌پذیری و حق مشتری برای داشتن یک تصمیم‌گیرنده انسانی است.
لاتیا استدلال می‌کند که عامل‌ها به‌طور فزاینده‌ای در حال کسب جایگاه خود در نمودار سازمانی در کنار انسان‌ها هستند. این امر تلاش انسان را به سمت موارد ارجاع (Escalations) و تصمیمات قضاوتی سوق می‌دهد و هماهنگی و مسیریابی را به عهده عامل‌ها می‌گذارد. برای موفقیت این مدل، عامل‌ها به همان بستر سازمانی (Institutional Context) نیاز دارند که انسان‌ها دارند تا بدانند چه کسی را در چه زمانی در جریان موضوعات خاص قرار دهند.
برای مدیریت این وضعیت، شرکت پلتفرم Collaborate را عرضه کرد؛ محیطی که در آن اپراتورها، مهندسان و عامل‌ها به‌عنوان همکاران فعالیت می‌کنند. این سیستم با تغییر شکل «حلقه» برای انطباق با نحوه هماهنگی انسان و عامل، تضمین می‌کند که انسان‌ها در جریان باشند. Collaborate کنترل نسخه‌ها، ارزیابی‌ها و یادگیری مستمر را در قلب خود جای داده است.
بهبود مستمر و ایمنی
در محیط‌های قانون‌مند، حتی یک تغییر کوچک در رفتار می‌تواند ریسک‌های جدیدی ایجاد کند. Gradient Labs هر به‌روزرسانی را به‌جای یک تغییر تنظیماتی ساده، به‌عنوان یک انتشار مدل جدید می‌بیند. این یعنی هر تغییر پیش از استقرار، از یک مجموعه ارزیابی کامل عبور می‌کند.
این فرآیند شامل موارد زیر است:
- تست رگرسیون: تست‌ها روی سوابقی اجرا می‌شوند که در آن‌ها یک اشتباه قبلی می‌توانست تفاوت واقعی ایجاد کند.
- استقرار تدریجی: به‌روزرسانی‌ها به‌طور یکباره برای همه مشتریان ارسال نمی‌شوند. آن‌ها به‌صورت تدریجی روی بخش محدودی از ترافیک اعمال می‌شوند تا هرگونه انحراف (Drift) شناسایی شود. این کار تضمین می‌کند که اگر انحرافی رخ دهد، پیش از رسیدن به مقیاس کامل شناسایی شود.
- کنترل نسخه: از طریق پلتفرم Collaborate، هر بهبود در نحوه مدیریت پرونده‌ها توسط عامل، نسخه‌بندی شده و با گفتگوهای گذشته تست می‌شود. این به عامل اجازه می‌دهد پس از استقرار مدام بهتر شود، بدون اینکه خودِ این بهبود باعث ایجاد یک رگرسیون یا مشکل نظارتی شود.
آینده هوش مصنوعی سازمانی
لاتیا پیش‌بینی می‌کند که مزیت رقابتی در هوش مصنوعی از خودِ مدل‌ها فاصله می‌گیرد. با تبدیل شدن مدل‌های بنیادی به کالاهایی عمومی و مشابه (Commoditized)، برنده کسانی خواهند بود که قابل‌اعتمادترین سیستم‌ها را پیرامون آن‌ها مهندسی کنند. محصول واقعی دیگر «هوش» مدل نیست، بلکه ثبات و قابلیت اطمینان سیستم تولید، شامل ارزیابی، حفاظ‌ها، داده‌ها و طراحی گردش‌کار است.
او آینده را شبکه‌ای از عامل‌های متخصص می‌بیند، نه یک مدل همه‌منظوره. حتی با بهبود مدل‌های پایه، تخصص حیاتی باقی می‌ماند زیرا مشتریان برای ارزیابی‌های خاص هر گردش‌کار و یکپارچگی داده‌های ساخته شده پیرامون آن هزینه پرداخت می‌کنند. این شبکه از عامل‌های متخصص همگی بر روی یک مدل پایه مشترک و قدرتمند ساخته می‌شوند.
در نهایت، پیروزی پایدار متعلق به این است که یک عامل تا چه حد عمیق در عملیات شرکت ادغام شده است. عامل‌هایی که می‌توانند هم در سیستم‌های خط مقدم و هم در سیستم‌های پشتیبانی (Back-office) کار کنند، می‌توانند بستر (Context) بیشتری به تعاملات بیاورند و مسائل پیچیده را به‌صورت سرتاسری حل کنند؛ دقیقاً مشابه روشی که یک کارمند انسانی در ساختار واقعی یک شرکت جای می‌گیرد. توانایی انطباق با نحوه واقعی عملکرد یک شرکت، جایی است که لاتیا انتظار دارد مزیت رقابتی پایدار در آنجا نهفته باشد.
گام بعدی شما
- اگر در حال طراحی سیستم‌های AI برای محیط‌های حساس هستید، به‌جای بهینه‌سازی برای سرعت پاسخ، معیار «دقت در حل مسئله» (Resolution Accuracy) را جایگزین کنید.
- برای جلوگیری از تله Co-pilot، سیستمی برای «خودمختاری مرحله‌بندی شده» طراحی کنید که در آن عامل تنها پس از عبور از محک‌های داده‌های واقعی، استقلال یابد.
- لایه‌های حفاظی را به‌جای مسدودکننده، به‌عنوان مسیریاب (Router) تعریف کنید تا تجربه کاربر قطع نشود.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو