تصور کنید تیمی از باهوش‌ترین متخصصان جهان را دور یک میز جمع کنید، اما هیچ‌کدام نتوانند با دیگری صحبت کنند یا هدفی مشترک داشته باشند. این دقیقاً وضعیت فعلی «نابغه‌های سیلیکونی» ماست؛ مدل‌هایی با قدرت بی‌کران که به‌جای یک تیم هماهنگ، مانند غریبه‌هایی کنار هم عمل می‌کنند. طبق گفته‌های ویجوی پاندی (Vijoy Pandey)، نایب‌رئیس ارشد و مدیر کل Outshift در سیسکو، دستیابی به ابرهوش مصنوعی توزیع‌شده نیازمند چیزی فراتر از مدل‌های بزرگ‌تر است؛ این هدف مستلزم یک معماری افقی است که به عامل‌های مستقل اجازه دهد با یکدیگر فکر کنند. پاندی توضیح می‌دهد که در حالی که «هوش لازم در حال حاضر وجود دارد»، قطعه حیاتی مفقود، همان «بافت پیونددهنده» است که برای تبدیل این عامل‌های مستقل به یک تیم واحد مورد نیاز است.
یک سیستم بهداشتی را در نظر بگیرید که چهار عامل (Agent) تخصصی دارد: یکی برای ارزیابی علائم، یکی برای زمان‌بندی، یکی برای امور بیمه و دیگری برای داروخانه. در حال حاضر، هر عامل در حوزه تخصصی خود با دانش و اهدافی متمایز، متخصص است. اگرچه آن‌ها می‌توانند داده‌ها را با هم تبادل کنند، اما هنوز نمی‌توانند مراقبت از بیمار را بدون دخالت و تصمیم‌گیری یک انسان هماهنگ کنند. این چالش در زیرساخت‌های تخصصی‌تر نیز دیده می‌شود؛ برای مثال در سیستم‌های پزشکی، پیاده‌سازی لایه‌های فنی برای تبدیل چت‌بات‌ها به عامل‌های صوتی کلینیکی گامی در جهت تخصصی‌تر کردن این تعاملات است. برای حل مشکل هماهنگی، به یک لایه معنایی نیاز است تا عامل‌های حوزه‌های مختلف بتوانند با هم کار کنند و از آن مهم‌تر، از طریق قصد، زمینه و استدلال مشترک، با هم «فکر» کنند.
برای سال‌ها، صنعت هوش مصنوعی بر مقیاس‌پذیری عمودی متمرکز بود. شرکت‌ها مدل‌های بزرگ‌تری را روی داده‌ها و توان محاسباتی بیشتر آموزش دادند تا «مغزهایی» بسازند که قادر به درک، استدلال و عمل در محیط‌های دیجیتال باشند. با این حال، این رویکرد تنها باعث بهبود تک‌تک عامل‌ها می‌شود. پاندی استدلال می‌کند که برای حل مسائلی که هیچ تک‌عاملی برای آن‌ها آموزش ندیده است، محور بعدی مقیاس باید «افقی» باشد و سیستم‌ها، شرکت‌ها و پلتفرم‌های مختلف را در بر بگیرد.
آزمایش‌های فعلی در زمینه سامانه‌های چندعاملی (Multi-Agent) در حوزه‌هایی مانند کشف دارو، مهندسی نرم‌افزارهای پیچیده و شبیه‌سازی‌های علمی، نتایج ناامیدکننده‌ای داشته‌اند. یک مطالعه آماری نشان داد که هنگام ارزیابی هفت سامانه چندعاملی متن‌باز، نرخ شکست بین ۴۱٪ تا ۸۷٪ بوده است. مشکل از پرامپت‌ها نیست؛ بلکه مشکل در معماری است. پاندی خاطرنشان می‌کند که در حالی که عامل‌های متصل، زمانی که وظایف از یک الگوی شناخته‌شده پیروی می‌کنند، در اقدامات هماهنگ خوب عمل می‌کنند، اما زمانی که با یک مسئله ناشناخته روبرو می‌شوند، در حفظ یک هدف مشترک و استدلال به سوی آن دچار مشکل می‌شوند. بدون لایه هماهنگی مناسب، ساختارهای ساده و ابتدایی می‌توانند حتی بدتر از یک عامل تک‌نفره عمل کنند.
اینترنت شناخت
شرکت Outshift برای پر کردن این شکاف، یک پشته دو لایه طراحی کرده است که هدف آن تبدیل عامل‌های منفرد به یک تمدن جمعی است:
- اینترنت عامل‌ها: یک لایه اتصال بنیادی به نام AGNTCY که اکنون به عنوان یک پروژه متن‌باز تحت حمایت بنیاد لینکس (Linux Foundation) قرار دارد. این لایه به عامل‌های خودمختار در سیستم‌ها، شرکت‌ها و پلتفرم‌های مختلف اجازه می‌دهد یکدیگر را بیابند، هویت خود را اثبات کنند و از طریق پروتکل‌های باز و استاندارد، پیام‌های خود را رد و بدل کنند.
- اینترنت شناخت: یک لایه معنایی که بر روی لایه اتصال قرار می‌گیرد. این لایه عامل‌ها را قادر می‌سازد تا اهداف خود را هم‌راستا کنند (اشتراک قصد)، دانش سازمانی و حافظه انباشته را تجمیع نمایند (اشتراک زمینه) و در مورد تبادل‌ها و تصمیمات جمعی به توافق برسند (اشتراک استدلال).
پاندی این پیشرفت را به روند تکامل انسان تشبیه می‌کند. برای صدها هزار سال، انسان‌ها به‌صورت فردی باهوش‌تر شدند، اما آن دستاوردهای ذهنی با مرگ هر فرد از بین می‌رفت. حدود ۷۰ هزار سال پیش، انسان‌ها یاد گرفتند که قصد خود را به اشتراک بگذارند و دانش تراکمی ایجاد کنند و یوں از افراد پراکنده به یک تمدن تبدیل شدند. عامل‌های AI اکنون در همین نقطه گذار قرار دارند و به لایه‌ای نیاز دارند که به آن‌ها اجازه دهد به صورت جمعی عمل کنند.
سه ستون هوش جمعی
پاندی مسیر رسیدن به ابرهوش توزیع‌شده را از طریق سه ستون فنی خاص تعریف می‌کند که توسط Outshift پیاده‌سازی شده‌اند:
- قصد مشترک (پروتکل‌های وضعیت شناخت): این‌ها به عنوان یک «دست‌دادن معنایی» عمل می‌کنند که به عامل‌ها اجازه می‌دهد پیش از اقدام، روی یک هدف توافق کنند و برای رسیدن به آن مذاکره نمایند. لایه هماهنگی متن‌باز Outshift به نام Mycelium به سازمان‌ها اجازه می‌دهد تا این فناوری را برای عامل‌های خود کپی کنند. در آزمایش‌های داخلی روی ۱۴ سناریو، گروه‌های بدون ساختار تنها در حدود یک‌سوم موارد توانستند به تصمیم برسند؛ اما با استفاده از پروتکلی برای اعلام اهداف، استخراج اطلاعات گمشده و حل تعارضات، این نرخ موفقیت به ۹۳٪ رسید.
- زمینه مشترک (بافت شناخت): این ستون در واقع یک حافظه سازمانی مشترک و یک شبکه ارتباطی است. به‌جای بازنشانی (Reset) هر جلسه، بینش‌های عامل‌ها در طول زمان انباشته و تقویت می‌شوند. این لایه که توسط سیاست‌ها مدیریت می‌شود، مشکل «فراموشی سازمانی» را حل کرده و تضمین می‌کند که هوش پایه سیستم همواره در حال افزایش باشد.
- استدلال مشترک (تقویت‌کننده‌های شناختی و GATها): در این لایه، دو نوع موتور شناختی عمل می‌کنند. تقویت‌کننده‌های شناختی سرعت مدل‌سازی جمعی و استدلال‌های مشترک را بالا می‌برند. در همین حال، فناوری‌های حفاظتی یا GATs چارچوب‌هایی برای امنیت، هزینه و انطباق با قوانین ایجاد می‌کنند. انسان‌ها در این لایه به‌عنوان مشارکت‌کنندگان فعال باقی می‌مانند و قضاوت‌هایی را ارائه می‌دهند که سیستم در لحظه (Real-time) به آن‌ها ارجاع می‌دهد، به‌جای آنکه خروجی‌ها را صرفاً پس از تولید بازبینی کند.
مدیریت ریسک در سرعت ماشین
شناخت جمعی آسیب‌پذیری‌های جدیدی را معرفی می‌کند، از جمله مسموم‌سازی حافظه (Memory Poisoning)، تزریق پرامپت‌های مخرب و تفویض اختیارات ناخواسته. همچنین خطر وجود عامل‌های «بیش‌ازحد دارای امتیاز» (Over-privileged agents) وجود دارد که دسترسی به داده‌هایی بسیار فراتر از نیازهای وظیفه‌شان دارند. از آنجایی که عامل‌ها با سرعت و مقیاس ماشین عمل می‌کنند اما ویژگی‌های انسانی دارند، کنترل‌های سنتی — که یا برای انسان‌ها ساخته شده‌اند یا برای ماشین‌ها، اما نه هر دو — ناکافی هستند.
برای حل این مشکل، Outshift سیستم CASA (مجوزدهی معنایی مستمر عامل) را توسعه داد. این پیاده‌سازی مرجع متن‌باز به عنوان یک GAT عمل می‌کند تا اطمینان حاصل شود که اقدامات عامل از طریق مجوزدهی مستمر، به‌طور ایمن با هدف اولیه کاربر هم‌راستا بماند. CASA آنچه را که عامل سعی در دستیابی به آن دارد می‌خواند و هر درخواست ابزار (Tool Request) را با آن وظیفه خاص مطابقت می‌دهد.
برای مثال، در یک محیط بهداشتی، اگر عاملی مجوز داشته باشد که پرونده یک بیمار خاص را خلاصه کند اما بخواهد کل پایگاه داده را استعلام نماید، CASA این درخواست را رد می‌کند. دلیل این امر آن است که کنترل‌های امروزی معمولاً بر اساس «نقش» یا «نشست» (Session) تعریف می‌شوند و نه بر اساس «وظیفه»؛ بنابراین عاملی که به یک ابزار دسترسی داده شده، اغلب می‌تواند از آن برای هر کاری استفاده کند. پاندی اشاره می‌کند که تقریباً در ۹۰٪ مواقع، یک عامل هیچ راهی ندارد تا تأیید کند که آیا واقعاً برای آن وظیفه خاصی که به او سپرده شده، مجوز دسترسی دارد یا خیر.
اجرای مقیاس افقی
برای کسب‌وکارها، گذار به سامانه‌های چندعاملی باید با آزمایش یک گردشِ کار (Workflow) بین‌بخشی شروع شود. پاندی پیشنهاد می‌کند فرآیندی را انتخاب کنید که سه یا چهار تیم مختلف را در بر می‌گیرد و در حال حاضر برای انتقال مراحل (Hand-offs) نیاز به تأیید انسانی دارد. این رویکرد می‌تواند منجر به نتایج چشمگیری شود، مشابه آنچه در گزارش بهره‌وری SaaS مشاهده شد که در آن عامل‌های خودگردان زمان پاسخ‌دهی را تا ۸۰ درصد کاهش دادند.
او به شرکت‌ها توصیه می‌کند:
- گردشِ کار را به‌عنوان یک سامانه چندعاملی کوچک روی زیرساخت‌های باز و تعامل‌پذیر (Interoperable) بنا کنید.
- یک خط پایه (Baseline) قابل اندازه‌گیری برای عملکرد تعریف کنید.
- هم‌زمان با ادامه ساخت مدل‌های بزرگ‌تر، محور افقی را بر روی آن‌ها اضافه کنید.
- معیارهای اندازه‌گیری را تغییر دهید تا ردیابی کنید در کجا بینش یک عامل، باعث بهبود عملکرد عامل دیگر شده است؛ زیرا این اصلی‌ترین سیگنال برای کارکرد صحیح محور افقی است.
با آزمایش لایه‌های قصد، زمینه و استدلال در همین زمان، سازمان‌ها می‌توانند از منحنی پیشرفت جلو بزنند. همان‌طور که پاندی در پایان نتیجه می‌گیرد، مشکلات هنوز باز هستند و زیرساخت‌ها در حال حاضر در حال نوشته شدن‌اند؛ بنابراین اکنون ایده‌آل‌ترین لحظه برای ساخت‌وساز است.
گام بعدی شما
- شناسایی یک فرآیند اداری یا فنی که در حال حاضر بین ۳ تیم مختلف جابجا می‌شود و نیاز به نظارت انسانی دارد.
- بررسی پروتکل‌های متن‌باز AGNTCY و Mycelium برای طراحی لایه ارتباطی عامل‌ها.
- تعریف معیارهای «بهبود متقابل» (Cross-improvement) به‌جای اندازه‌گیری صرفاً دقت خروجی تک‌عامل.
اما چالش‌های امنیتی در این مقیاس، نیاز به ابزارهای نظارتی جدیدتر دارد — به تحلیل ما درباره‌ی چارچوب‌های حفاظتی در مدل‌های زبانی مراجعه کنید.
گفتگو