آیا تأیید هویت یک کاربر می‌تواند تضمینی برای امن بودن دستورات او باشد؟ در ۸ اکتبر ۲۰۲۶، شرکت Riskified سامانه Agent Identity Risk Intelligence را معرفی کرد تا تشخیص دهد کدام عامل (Agent) — مانند Muse متا یا ChatGPT — در حال ثبت سفارش است و آن را به یک مصرف‌کننده واقعی متصل کند.
این ابزار در حالی عرضه می‌شود که عامل‌های هوش مصنوعی از چت‌های ساده به سمت اجرای تراکنش‌های مالی حرکت می‌کنند. برای فروشندگان، خطر دیگر تنها رمز عبورهای سرقتی نیست، بلکه باندهای «مرجوعی به‌عنوان سرویس» (Refund-as-a-Service) هستند. این گروه‌ها از حساب‌های واقعی با دسترسی‌های معتبر استفاده می‌کنند تا با سرعت ماشین کلاهبرداری کنند؛ تاکتیکی که گروه Artemis Refund را در آوریل ۲۰۲۶ به دادگاه کشاند.
به نقل از گزارش dev.to، این سامانه با Shopify یکپارچه شده و سیگنال‌های خود را از طریق AWS Marketplace و Zendesk ارسال می‌کند. این ابزار ریسک را به سه پرسش تقسیم می‌کند:
- آیا عامل مجاز است؟ (توسط پروتکل‌های عامل مدیریت می‌شود)
- آیا می‌توان به شخص اعتماد کرد؟ (توسط داده‌های Riskified از میلیاردها سفارش مدیریت می‌شود)
- آیا این دستور منطقی بود؟ (پاسخی که سامانه فعلاً برای آن ندارد)
این چالش در راستای تلاش‌های گسترده‌تر صنعت برای مدیریت هویت عامل‌هاست، مشابه آنچه در راهکار Agent ID شرکت RSA برای پوشاندن شکاف‌های امنیتی AI مشاهده شد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های عامل‌محور اشاره کردیم، تفاوت میان «کیست» و «چه می‌خواهد» در دنیای اتوماسیون حیاتی است. یک تست عملی در ۱۱ اکتبر ۲۰۲۶ این شکاف بحرانی را آشکار کرد. طبق این گزارش، وقتی یک باند کلاهبرداری حرفه‌ای ۱۴ درخواست مرجوعی یکسان را در یک ساعت ثبت کرد و در مقابل آن، یک مشتری وفادار یک کالای ۳۲ دلاری را مرجوع کرد، هر دو امتیاز ریسک ۰.۲۵ دریافت کردند.
در سیاست‌های فعلی تأیید خودکار، هر دو درخواست به‌طور یکسان پردازش می‌شوند. این موضوع یک عدم تقارن خطرناک در مدیریت ریسک هوش مصنوعی را نشان می‌دهد. ریسک هویت و قضاوت درباره دستورات، دو ابزار کاملاً متفاوت هستند. اگر فروشنده‌ای تنها هویت عامل را تأیید کند، در برابر نیت واقعی درخواست کور خواهد بود. این آسیب‌پذیری یادآور شکاف‌های امنیتی پروتکل MCP است که اجازه می‌دهد پرامپت‌های مخرب میان عامل‌های مختلف جابه‌جا شوند.
فروشندگان اکنون باید تأیید هویت و تحلیل دستورات را در یک مسیر اجرایی واحد ادغام کنند تا از کلاهبرداری‌های خودکار جلوگیری کنند. تکیه بر «هویت تأییدشده» به‌تنهایی، حفره‌ای را باز می‌کند که باندهای پیشرفته می‌توانند در مقیاس وسیع از آن سوءاستفاده کنند.
گام بعدی شما
- اگر از ابزارهای اتوماسیون سفارش استفاده می‌کنید، لایه‌ای برای تحلیل محتوای دستورات (Instruction Analysis) اضافه کنید.
- دستورات عامل‌های خود را با استفاده از کدهای curl ارائه شده توسط ScriptMasterLabs تست کنید تا نقاط ضعف حفاظتی خود را بیابید.
- سیاست‌های تأیید خودکار (Auto-approve) را برای درخواست‌های تکراری در بازه زمانی کوتاه محدود کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو