اگر اکنون عاملهای هوش مصنوعی خود را برای کارهای حساس طراحی میکنید، تکیه بر «تازهترین خبر» دیگر کافی نیست؛ شما به «سند قابل استناد» نیاز دارید. طبق اعلام AWS در ۱۸ آوریل ۲۰۲۶، قابلیت Web Search در سامانه Amazon Bedrock AgentCore فعال شد تا مدلها از طریق پروتکل زمینه مدل (MCP) به دادههای لحظهای وب دسترسی داشته باشند. این رویکرد در راستای استانداردهای جدیدی است که به کمک ابزارهایی مانند MCP Server Toolkit، خطاهای حدسزنی عاملهای کدنویس را کاهش میدهند.
بسیاری از توسعهدهندگان از مبنیسازی (Grounding) تنها برای رفع مشکل قدیمی بودن دادههای مدل استفاده میکنند. همانطور که در تحلیلهای قبلی ما درباره امنیت مدلهای بازمتن اشاره کردیم، دسترسی به داده جدید به معنای صحت آن نیست. یک عامل ممکن است بهجای مستندات رسمی، یک پست وبلاگی غیرمعتبر را پیدا کند و با اطمینان کامل، تصمیمی غلط بگیرد. برای مقابله با این چالش، برخی ابزارها مانند عامل last30days سعی دارند با رصد ردهای اجتماعی، سدهای سئو-اسپم را بشکنند.
بر اساس تحلیلهای فنی منتشر شده در dev.to، صنعت اکنون به سمت «مدل شواهدی» حرکت میکند. در این رویکرد، نتایج جستوجو دیگر صرفاً تکههای متن نیستند، بلکه شامل متادیتای اثباتیاند:
- هویت منبع: تفکیک دقیق میان مستندات رسمی، وبلاگهای شخص ثالث و تالارهای گفتگو.
- دادههای زمانی: ثبت دقیق تاریخ انتشار و برچسب زمانی لحظه بازیابی.
- زنجیره بازیابی: ثبت دقیق پرسوجوی (Query) استفاده شده و رتبه نتایج بازگشتی.
این تغییر، جستوجوی وب را از یک کانال جادویی به یک ابزار کنترلشده تبدیل میکند. در حالی که هگینگفیس با استاندارد ARD در تلاش برای خودکارسازی جستوجوی ابزارهاست، تمرکز فعلی بر این است که وقتی یک عامل برای رفع یک آسیبپذیری امنیتی، یک Pull Request ایجاد میکند، بازبین انسانی نباید صرفاً یک لینک ببیند؛ او باید دقیقاً همان «سندی» را ببیند که عامل برای تصمیم خود به آن استناد کرده است. در این ساختار، تمرکز از «آیا کد درست است؟» به «آیا شواهد پشتیبان با کیفیت بودهاند؟» تغییر میکند.
گام بعدی شما
- در طراحی عاملها، به جای لینک ساده، متادیتای منبع (Source Identity) را در گزارش نهایی ذخیره کنید.
- نرخ پذیرش خروجیها را بر اساس اعتبار منبع (رسمی در برابر غیررسمی) رصد کنید.
- بررسی کنید که آیا پروتکل MCP میتواند جایگزین روشهای سنتی API Call در معماری شما شود؟
اما چالش بعدی، اندازهگیری کمی کیفیت این شواهد است — در گزارش بعدی بررسی میکنیم که چگونه میتوان «اعتبار منبع» را به صورت ریاضی مدل کرد.
گفتگو