تصور کنید سه مدل مختلف، قیمت بیتکوین را به شما میگویند، اما فقط یکی از آنها واقعاً بازار را چک کرده است. این شکاف میان «پاسخ مطمئن» و «عمل تأییدشده»، بزرگترین نقطه شکست اعتماد در گردشکارهای عاملمحور است. به گزارش وبسایت dev.to در ۱۹ سپتامبر ۲۰۲۶، اکثر عاملهای هوش مصنوعی در حال حاضر تفاوت میان دانستن یک حقیقت و اجرای یک دستور را نادیده میگیرند. این یعنی مدل ممکن است با لحنی بسیار قاطع ادعا کند کاری را انجام داده، در حالی که صرفاً در حال پیشبینی کلمه بعدی است.
توهمِ اطمینان
تصور کنید در سه اپلیکیشن چت مختلف، این سوال را تایپ کنید: «قیمت فعلی BTC به دلار چقدر است؟». هر سه اپلیکیشن در عرض چند ثانیه پاسخ میدهند و هر سه کاملاً مطمئن به نظر میرسند. با این حال، مکانیسمهای داخلی آنها کاملاً متفاوت است. یکی از آنها ممکن است یک ابزار قیمت زنده (Live Price Tool) را اجرا کند. دومی ممکن است از حافظه خود و با استفاده از دادههای آموزشی قدیمی که مربوط به هفتهها پیش است، پاسخ دهد. سومی ممکن است صرفاً با قاطعیت حدس بزند، زیرا عملکرد تکمیل خودکار (Autocomplete) در زمان نبود دانش، دقیقاً به همین شکل است.
در یک پنجره چت، این پاسخها کاملاً یکسان به نظر میرسند. «اطمینان» در مدلهای زبانی رایگان است و هر اپلیکیشنی خوشحال است که درباره عددی که سی ثانیه پیش اختراع کرده، مطمئن به نظر برسد. تنها راه برای تشخیص یک پاسخ «بررسیشده» از یک پاسخ «مطمئن»، داشتن یک رسید قابل تأیید است.
ریسک در گردشکارهای حرفهای
حالا تصور کنید عاملی ادعا میکند که کد شما را برای یافتن رمزهای لو رفته (Secrets) حسابرسی کرده یا پرداخت یک فاکتور را تأیید نموده است. در بیشتر موارد، شما به «شهادت» عامل اعتماد میکنید — یعنی متنی که میگوید «من بررسی کردم» — به جای اینکه به «شواهد» آن اقدام تکیه کنید. این وضعیت محیطی خطرناک ایجاد میکند که در آن «حس و حال» (Vibes) جایگزین تأییدیه میشود و منطق تکمیل خودکار، ادای دقت حرفهای را در میآورد. این چالش در شناسایی رفتارهای متقلبانه نیز دیده میشود؛ برای مثال، آمازون اخیراً از هوش مصنوعی برای شناسایی دقیقتر کلاهبرداریهای پیامکی استفاده کرد تا تفاوت میان پیامهای واقعی و جعلی را با دقت بیشتری تشخیص دهد.
این مشکل در سناریوهای کاری حیاتی به وضوح ظاهر میشود:
- استقرار در محیط عملیاتی (Production Deploys): عامل میگوید وضعیت استقرار شما را چک کرده است. اما آیا واقعاً API مربوطه را فراخوانده یا فقط آخرین گزارش جلسه استندآپ شما را خلاصه کرده است؟
- حسابرسیهای امنیتی: عامل میگوید کدها را برای یافتن رمزهای حساس بررسی کرده است. آیا واقعاً دستور grep را روی فایلها اجرا کرده یا فقط موارد بدیهی را حدس زده است؟
- امور مالی: عامل میگوید یک فاکتور پرداخت شده است. آیا دفتر کل (Ledger) را استعلام کرده یا فقط بر اساس الگوی کلمه «پرداختشده» در متن، نتیجهگیری کرده است؟
مکانیسم تأیید (Verification)
برای حل این مشکل، Zambo سیستمی از رسیدهای عاملهای هوش مصنوعی را معرفی کرده است. یک رسید، وعدهای برای درست بودن دادهها نیست، بلکه یک اثبات رمزنگاریشده است که نشان میدهد یک اجرای خاص واقعاً رخ داده است. رسید تضمین نمیکند که قیمت اعلام شده، قیمت واقعی بازار است؛ بلکه تضمین میکند که ابزاری در زمانی مشخص اجرا شده و دقیقاً این بایتها را بازگردانده است.
هر رسید از اجزای زیر تشکیل شده است:
- یک UUID منحصربهفرد
- یک برچسب زمانی (Timestamp) دقیق
- یک هش sha256 از بایتهای بازگشتی واقعی ابزار
این سوابق توسط هر شخص ثالثی از طریق zambo.dev/run/
پیادهسازی تست رسید
در حال حاضر Zambo بیش از ۱۰۰ ابزار بومی پروتکل زمینهٔ مدل (MCP) را ارائه میدهد و برای تسهیل این سطح از شفافیت، روزانه ۲۰ فراخوانی رایگان برای هر ابزار در نظر گرفته است. کاربران میتوانند یک «تست رسید» انجام دهند؛ به این صورت که یک فراخوانی واقعی از ابزار را اجرا کنند و سپس سعی کنند به خودشان بگویند که ابزار اجرا نشده است؛ در این لحظه، برچسب زمانی و هش، چنین ادعایی را غیرممکن میکنند.
این تغییر، صنعت را از یک مدل «ادعا-محور» به یک مدل «شواهد-محور» منتقل میکند. برای کاربر حرفهای، این یعنی تفاوت میان عاملی که صرفاً یک جلسه استندآپ قبلی را خلاصه میکند و عاملی که واقعاً یک API عملیاتی را استعلام میکند. وقتی مخاطرات شامل دفاتر مالی یا حسابرسیهای امنیتی باشد، یک صفتِ «مطمئن» دیگر جایگزین مناسبی برای یک هش قابل تأیید نیست.
اگر برای کارهای حیاتی به عاملها تکیه میکنید، از پرسیدن اینکه «هوش مصنوعی چه گفت» دست بردارید و شروع کنید به درخواست «اثبات اجرا». میتوانید این موضوع را با درخواست یک رسید قابل تأیید برای آخرین اقدام ابزارهای فعلیتان تست کنید؛ اکثر آنها با صفتها پاسخ خواهند داد، نه با شواهد.
گام بعدی شما
- از ابزارهای فعلی خود بخواهید برای آخرین اقدامشان یک رسید قابل تأیید (Verifiable Receipt) ارائه دهند و ببینید چند درصد آنها به جای شواهد، از صفتهای اطمینانبخش استفاده میکنند.
- در گردشکارهای حساس، به جای اعتماد به متن چت، از ابزارهایی استفاده کنید که خروجی را به یک هش رمزنگاریشده متصل میکنند.
- پروتکل MCP را برای اتصال امنتر ابزارهای داخلی سازمانتان به مدلهای زبانی بررسی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو