وقتی هوش مصنوعی وارد سازمانها میشود، تنها معیاری که اهمیت دارد «قطعیت در اجرا» است، نه میزان هوش خام مدل. در حالی که کل صنعت روی مدل بنیادی بعدی متمرکز است، Druid AI روی لایهای شرطبندی کرده است که بالای این مدلها قرار میگیرد: لایه ارکستراسیون (Orchestration).
بسیاری از شرکتها با هوش مصنوعی مثل یک چتبات پیشرفته برخورد میکنند. اما برای یک سازمان جهانی، چتباتی که نمیتواند یک سیستم CRM را بهروز کند یا پرداختی را فعال نماید، چیزی جز یک اسباببازی نیست. گذار از هوش مصنوعی محاورهای به هوش مصنوعی عاملمحور (Agentic AI) — شبیه تغییر از یک مکالمه خطی به یک سیستم توزیعشده برای تصمیمگیری و اجرا — در حال رخ دادن است.
این تحول زمانی اتفاق میافتد که سازمانها میفهمند مدلهای بنیادی (Foundation Models) — مثل موتورهای استانداردی که هر کسی میتواند بخرد — در حال تبدیل شدن به کالاهای عمومی و جایگزینپذیر هستند. آندرهآ پلشیا (Andreea Pleşea)، مدیر عملیاتی و همبنیانگذار Druid AI، در مصاحبهای تأکید میکند که اهرم استراتژیک اکنون به «بستر اجرا» منتقل شده است؛ یعنی حاکمیت، مسیریابی و قابلیت حسابرسی.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، اعتماد در محیطهای سازمانی هرگز بر اساس «احساس» نیست، بلکه بر اساس پیشبینیپذیری است.
زمینه: تلاقی پژوهشهای آکادمیک و دردهای سازمانی
دیدگاه پلشیا حاصل دو دهه تجربه در مهندسی نرمافزار، هوش مصنوعی و عملیات است. مسیر او با سختگیریهای آکادمیک آغاز شد؛ بین سالهای ۲۰۰۸ تا ۲۰۱۱، تحقیقات دکتری او در دانشگاه رم تور ورگاتا بر روی عاملهای هوش مصنوعی خودمختار متمرکز بود که از طریق فناوریهای وب معنایی (Semantic Web) و هستیشناسیها (Ontologies) با یکدیگر ارتباط برقرار میکردند. او در گروه تحقیقاتی هوش مصنوعی دانشگاه روی استخراج و ساختاردهی اطلاعات از دادههای بدون ساختار کار کرد.
این بنیاد آکادمیک بعدها در دوران حضورش در شرکت TotalSoft با واقعیتهای تلخ تکنولوژی سازمانی برخورد کرد. او در طی نزدیک به یک دهه فعالیت در این شرکت، مسیر شغلی خود را از یک برنامهنویس .NET به مدیر توسعه نرمافزار و در نهایت به مدیر برنامههای تجاری Charisma ارتقا داد. در این جایگاه، پلشیا مسئولیت توسعه محصول، پیادهسازی و مدیریت سود و زیان (P&L) را بر عهده داشت. او از نزدیک شاهد «پیچیدگی غیرقابل تحمل» بود که کارکنان با آن روبرو بودند: برای تکمیل یک کار روتین، کارمند باید میدانست دقیقاً کدام برنامه را باز کند، دادهها در کجا ذخیره شدهاند، کدام سیاست سازمانی حاکم است و چه کسی مسئول مرحله بعدی است.
در سال ۲۰۱۸، پلشیا به همراه لیویو درگان، رهبری آیندهنگر، شرکت Druid AI را در بخارست تأسیس کرد. چشمانداز اولیه آنها فراهم کردن یک دستیار مجازی برای هر کارمند و مشتری بود که قادر باشد کارها را در کل سازمان ارکستره کند. در حالی که هوش مصنوعی محاورهای اولیه بر تشخیص قصد (Intent Recognition) و اسکریپتهای ایستا متمرکز بود، تکامل به سمت هوش مصنوعی عاملمحور به عاملهای مدرن اجازه میدهد تا اهداف را ارزیابی کنند، با عاملهای تخصصی زیرمجموعه همکاری نمایند و گردشکارهای چندمرحلهای را بهطور خودمختار اجرا کنند.
معماری هوش مصنوعی عاملمحور
تمرکز Druid AI بر ساخت و ارکستراسیون عاملهای هوش مصنوعی است که فرآیندهای پیچیده تجاری را خودکار میکنند. پلتفرم آنها، Druid Conductor، چندین عامل تخصصی را برای دستیابی به نتایج تجاری خاص هماهنگ میکند. این رویکرد با این دیدگاه همسو است که اولویت سازمانها باید بر جریانهای کاری باشد تا ابزارهای تکمنظوره تا بتوان بهرهوری واقعی را تجربه کرد. این پلتفرم ترکیبی از درک زبان طبیعی، هوش مصنوعی زاینده (Generative AI) — مثل نویسندهای که بر اساس الگوهای آماری متن تولید میکند — و تولید بازیابیافزا (RAG) است. علاوه بر این، یکپارچگیهای سازمانی، اتوماسیون گردشکار، تحلیلها و حاکمیت را در کنار هم قرار میدهد.
برخلاف دستیارهای ساده، این عاملها مستقیماً با سیستمهای زیر یکپارچه میشوند:
- سیستمهای برنامهریزی منابع سازمانی (ERP)
- پلتفرمهای مدیریت ارتباط با مشتری (CRM)
- ابزارهای مدیریت خدمات IT (ITSM)
- پلتفرمهای منابع انسانی (HR)
این استقرارها میتوانند در محیطهای ابری، ترکیبی، محلی (On-premises) یا حتی محیطهای کاملاً ایزوله (Air-gapped) برای پاسخگویی به نیازهای امنیتی سختگیرانه باشند. طبق اعلام این شرکت، آنها در حال حاضر از بیش از ۳۰۰ مشتری سازمانی و ۲۰۰ شریک جهانی پشتیبانی میکنند و کاربردهای آنها حوزههای بهداشت و درمان، آموزش عالی، خدمات مشترک و خدمات مشتریان را در بر میگیرد.
پر کردن شکاف «تواضع در تولید»
پلشیا اشاره میکند که محیطهای عملیاتی (Production) برخلاف محیطهای آزمایشی (Pilot) که کنترلشده هستند، هرجومرج دارند. در دنیای واقعی، کاربران در میانه گفتگو نظرشان تغییر میکند، دادههای ناقص ارائه میدهند یا بهطور غیرمنتظره زبان گفتگو را عوض میکنند. APIها شکست میخورند، سیستمهای بک-اند کند میشوند و موارد خاصی (Edge Cases) ظاهر میشوند که هرگز در طراحی اولیه پیشبینی نشده بودند. این چالشها دقیقاً همان نقاطی هستند که باعث شکست بسیاری از عاملهای هوش مصنوعی در مقیاس تجاری میشوند، چرا که شکاف عمیقی بین نمایشهای اولیه و استقرار واقعی وجود دارد.
Druid AI با مدیریت بیش از یک میلیارد گفتگو در هزاران عامل دریافت که ارزش واقعی اتوماسیون در سطح بالا، اغلب از انجام «کارهای معمولی به شکلی استثنایی» در صدها هزار مرتبه حاصل میشود؛ کارهایی مثل:
- پاسخ به سوالات کارکنان
- بررسی وضعیت حسابها
- بازنشانی و تغییر زمان قرارهای ملاقات
- حل درخواستهای IT
- بازیابی اطلاعات خاص از سیستمهای سازمانی
یکی از یافتههای حیاتی آنها از دادههای عملیاتی، تمرکز شدید تقاضا است. برای مثال در خدمات مالی، تنها سه دسته از گردشکارها حدود ۹۰٪ از کل استفادههای عملیاتی را تشکیل میدهند. در آموزش عالی، این تمرکز حتی بیشتر است. برای کمک به مشتریان در پیمایش این مسیر، Druid گزارشهای محک (Benchmark) اختصاصی برای بانکداری، بهداشت و آموزش عالی توسعه داده است تا فرآیندهایی که بیشترین بهرهوری را ایجاد میکنند، شناسایی شوند.
چالشهای مهندسی سیستمهای چندعاملی
تبدیل یک بات ساده پرسش و پاسخ به یک اکوسیستم چندعاملی، کلاس جدیدی از مشکلات سیستمهای توزیعشده را ایجاد میکند. در اینجا چالش اصلی دیگر تشخیص قصد کاربر نیست، بلکه مدیریت وضعیت (State Management) و سازگاری تراکنشی است.
موانع فنی کلیدی عبارتند از:
- انحراف مقام و دامنه (Authority and Domain Drift): تعیین اینکه کدام عامل اختیار اقدام دارد و جلوگیری از اینکه عاملها از محدوده تخصصی خود خارج شوند.
- انتقال وضعیت (State Handoffs): حفظ بستر (Context) و وضعیت در حالی که مسئولیت از یک عامل تخصصی به عامل دیگر منتقل میشود.
- سازگاری تراکنشی (Transactional Consistency): مدیریت بازگشت (Rollback) در صورت شکست فرآیند. برای مثال، اگر مرحله چهارم از یک فرآیند ششمرحلهای شکست بخورد در حالی که سه سیستم قبلاً تغییرات تراکنشی را اعمال کردهاند، لایه ارکستراسیون باید این شکست را مدیریت کند، نه اینکه صرفاً یک پیام خطای کلی بدهد.
- مجوزهای پویا (Dynamic Permissions): اطمینان از اینکه عاملهای زیرمجموعه، دسترسیهای امنیتی را بهطور ایمن و پویا به ارث میبرند، بدون اینکه میانبرهای امنیتی در کنترلهای دسترسی سازمان ایجاد شود.
- حل تعارض (Conflict Resolution): تطبیق تصمیمات متناقض که توسط عاملهای تخصصی مختلف گرفته شده است.
حاکمیت و چارچوب ۲۶ مادهای
اعتماد در هوش مصنوعی سازمانی، عملیاتی است نه احساسی. سازمانها زمانی به AI اعتماد میکنند که پیشبینیپذیر رفتار کند و استثناها بهدرستی مدیریت شوند. برای حل این مسئله، Druid AI یک چارچوب ارزیابی بر اساس دستورالعملهای گارتنر پیاده کرده است.
این چارچوب عاملها را از پنج زاویه اصلی تحلیل میکند:
- تحمل خطا (Error Tolerance): سیستم چگونه با اشتباهات برخورد میکند.
- ریسک (Risk): تأثیر احتمالی اقدامات عامل بر سازمان.
- انطباق (Compliance): پایبندی به قوانین رگولاتوری و قوانین داخلی.
- قابلیت مشاهده (Observability): توانایی ردیابی و حسابرسی اقدامات.
- انحراف (Deviation): میزان فاصله گرفتن عامل از مسیر مورد نظر.
در زیر این پنج دسته، ۲۶ مؤلفه خاص وجود دارد که هر کدام تعریف دقیق، یک اثر (Artefact) قابل دسترس و یک معیار اندازهگیری دارند.
قابلیت مشاهده اکنون بخشی از معماری کنترل است. برای گردشکارهای حساس (Mission-critical)، پلتفرم باید زنجیره کامل را بازسازی کند: کدام عامل درخواست را مدیریت کرد، از چه مدلی استفاده شد، مدل چه بستری دریافت کرد، چه اطلاعات سازمانی بازیابی شد، کدام قوانین تجاری اعمال شدند و دقیقاً چه تغییری در سیستم زیرین رخ داد. این شامل ردیابی برچسبهای زمانی، سیگنالهای اطمینان (Confidence Signals) و رویدادهای ارجاع (Escalation) است.
تعیین مرز بین خودمختاری و ارجاع به انسان
همانطور که عاملها از پاسخ به سوالات به سمت شروع اقدامات واقعی در دنیای واقعی حرکت میکنند، مرز تفویض اختیار حیاتی میشود. Druid AI استدلال میکند که هدف باید «حل مسئله تحت نظارت» (Governed Resolution) باشد، نه صرفاً محدود کردن دسترسی. هدف این نیست که بهسادگی از دخالت انسان اجتناب شود، بلکه هدف تضمین نتیجه درست است.
برای تعیین اینکه آیا یک عامل میتواند بهطور خودمختار عمل کند یا خیر، باید ابعاد زیر ارزیابی شوند:
- برگشتپذیری (Reversibility): آیا اقدام انجام شده بهراحتی قابل بازگشت است؟
- سطح ریسک: پیامدهای مالی یا انسانی یک خطا چیست؟
- کیفیت اطلاعات: آیا دادههای موجود کامل و قابل اعتماد هستند؟
- الزامات رگولاتوری: آیا الزامات قانونی برای نظارت انسانی وجود دارد؟
- قضاوت و همدلی: آیا موقعیت نیازمند هوش عاطفی واقعی انسانی است؟
برای مثال، تغییر زمان appointment یک بیمار ساده به نظر میرسد، اما نیازمند منطق پیچیدهای است. اگر پزشکی یک جای خالی را عمداً برای استراحت یا کار دیگر مسدود کرده باشد، هوش مصنوعی نباید صرفاً برای بهینهسازی تقویم آن را پر کند. در چنین مواردی، AI باید محدودیت را تشخیص دهد و یک انسان را با تمام بستر اطلاعاتی جمعآوری شده وارد فرآیند کند.
مسیر رسیدن به ارزش
بسیاری از استقرارهای AI در مرحله پایلوت متوقف میشوند چون فقط ثابت میکنند تکنولوژی کار میکند، نه اینکه مدل عملیاتی (Operating Model) کارآمد است. پلشیا استدلال میکند که پیچیدگی فنی بیمعنی است اگر مسئله تجاری مهم نباشد، مالک فرآیند غایب باشد یا یکپارچگی (Integration) به عنوان یک موضوع ثانویه دیده شود.
موفقیت مستلزم درک «شغل» (Job) است، نه فقط کلیکهای کاربر در یک سیستم. این به معنای تحلیل موارد زیر است:
- کل فرآیند از ابتدا تا انتها (End-to-End)
- نحوه برخورد با استثناها و دفعات تکرار آنها
- نتایج خاص مورد نیاز
- تلاش و زمان واقعی مورد نیاز برای افزایش بهرهوری در صورتی که کار اتوماتیک نمیشد
برای سطح مدیریتی، خط dividing line، قابلیت اطمینان در شرایط ناقص خواهد بود. سیستمی که ۹۰٪ مواقع کار میکند، در یک فرآیند حساس، یک ریسک (Liability) محسوب میشود. برنده میدان پلتفرمهایی خواهند بود که ۱۰٪ باقیمانده — یعنی شکستهای API، تداخل سیاستها و درخواستهای غیرمجاز — را با ظرافت مدیریت کنند. پلشیا رویکرد «شروع محدود، معماری گسترده» را پیشنهاد میکند: ابتدا اقتصاد و حاکمیت را روی چند گردشکار با حجم بالا ثابت کنید، سپس به فرآیندهای مجاور گسترش دهید.
شکستن شکاف بنیانگذاران
فراتر از تکنولوژی، پلشیا که در هیئت مشورتی «زنان در تکنولوژی رومانی» فعالیت میکند، به شکاف جنسیتی در رهبری AI اشاره میکند. دادههای اخیر شکاف تکاندهندهای را در تکنو-اکوسیستم اروپا نشان میدهد: تنها ۵٪ از استارتاپهای AI توسط زنان بنیانگذاری یا همبنیانگذاری شدهاند و تنها نیمی از این زنان دارای مدرک PhD هستند.
او معتقد است مانع اصلی، صرفاً مهارت فنی نیست، بلکه عدم مواجهه با مالکیت کامل کسبوکار است. زنان اغلب به عنوان متخصصان فنی در سطح جهانی میدرخشند، اما بهندرت در نقشهایی قرار میگیرند که مسئولیت مستقیم سود و زیان (P&L)، تصمیمگیریهای تجاری یا استراتژیهای کلان شرکتی را بر عهده داشته باشند. اینها همان «عضلات عملیاتی» هستند که برای مقیاسپذیری یک شرکت مورد نیازند.
پر کردن این شکاف نیازمند موارد زیر است:
- گسترش دسترسی به شبکههای تجاری
- حمایت از الگوهای موفق و قابل مشاهده
- تشویق استعدادهای با تجربه برای خروج از سیلوهای عملکردی
- از بین بردن این افسانه که رهبری تکنولوژی نیازمند تسلط مطلق پیش از گام برداشتن به جلو است.
در نهایت، سوال سازمانها از «این مدل چه کاری میتواند انجام دهد؟» به «چگونه میتوانم این کار را بهطور موثر به سرانجام برسانم؟» تغییر کرده است. پلتفرمهایی که زنده میمانند، آنهایی هستند که هوش خام را به «کار تکمیلشده» تبدیل کنند.
گام بعدی شما
- اگر در حال پیادهسازی AI در سازمان هستید، بهجای تست مدلهای مختلف، روی «نقشه جریان داده» و نقاط شکست APIها تمرکز کنید.
- برای هر عامل AI، یک «محدوده اختیار» (Domain Boundary) تعریف کنید تا از تداخل وظایف جلوگیری شود.
- معیارهای پذیرش (Acceptance Criteria) را از «صحت پاسخ» به «تکمیل موفقآمیز تراکنش» تغییر دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو