پرش به محتوای اصلی
پرش به محتوای مقاله

یک ششم کاربران هوش مصنوعی مهاجم‌اند؛ شکاف امنیتی خطرناک در دنیای عامل‌ها

·۱۳ اردیبهشت ۱۴۰۵۲ دقیقه مطالعه۲ بازدید
یک ششم کاربران هوش مصنوعی مهاجم‌اند؛ شکاف امنیتی خطرناک در دنیای عامل‌ها
اشتراک‌گذاری

آیا می‌توانید به عاملی که هرگز ندیده‌اید اعتماد کنید؟ تصور کنید سیستمی را مدیریت می‌کنید که در آن هر ۶ کاربر جدید، یک مهاجم است.

طبق اعلام Stripe، یک ششم از تلاش‌ها برای ثبت‌نام در سرویس‌های هوش مصنوعی توسط مهاجمان صورت می‌گیرد. این شرکت در یک ماه تنها ۳.۳ میلیون ثبت‌نام پرخطر را در ۸ کسب‌وکار مختلف هوش مصنوعی مسدود کرده است. این آمار تکان‌دهنده نشان می‌دهد که در دنیای عامل‌محور (agentic)، شناسایی «کیستی» یک کاربر کافی نیست؛ بلکه باید دانست او «چه کرده است».

به نقل از گزارش dev.to، بین ۲۸ آوریل تا ۱ مه ۲۰۲۶، موجی از استانداردهای جدید برای پیوند دادن عامل (agent) به هویت‌های انسانی شکل گرفت:

  • اتحاد FIDO گروه‌های کاری جدیدی برای احراز هویت و پرداخت‌های عامل‌ها تشکیل داد.
  • گوگل پروتکل پرداخت‌های عامل (AP2) خود را اهدا کرد و مسترکارت قابلیت «قصد قابل تأیید» (Verifiable Intent) را معرفی نمود.
  • در ۳۰ آوریل ۲۰۲۶، Experian توکن‌های اعتماد عامل را برای امتیازدهی آنی به کلاهبرداری یا همان «شناخت عامل خود» (KYA) عرضه کرد.
  • Cloudflare و Stripe پروتکلی را مستقر کردند که به عامل‌ها اجازه می‌دهد با سقف پرداخت ۱۰۰ دلار در ماه، حساب باز کرده و دامنه بخرند.
  • در ۱ مه ۲۰۲۶، CISA و NSA دستورالعمل‌های مشترکی را با تمرکز بر الگوهای «اعتماد صفر» (zero-trust) منتشر کردند.

همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، زیرساخت‌های فعلی تنها بر احراز هویت متمرکز هستند. اما یک نقص سیستمی بزرگ وجود دارد: نبود «گواهی رفتاری» (Behavioral Attestation).

اتصال هویت به عامل به ما می‌گوید او کیست، اما ثابت نمی‌کند که او در پلتفرم‌های دیگر صادق بوده است. برای حل این مشکل، AgentLair سیستمی به نام «اثبات مجوزهای گذشته» (PoPA) را معرفی کرده تا رسیدهای قابل انتقال از اقدامات عامل‌ها ایجاد کند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

گام بعدی شما

  • اگر در حال توسعه سیستم‌های عامل‌محور هستید، به جای تکیه بر API Key، استانداردهای KYA را بررسی کنید.
  • برای کاهش ریسک، سقف پرداخت‌های خودکار عامل‌ها را در سطح پایین (مشابه مدل Stripe) تنظیم کنید.
  • چشم به توسعه پروتکل‌های PoPA بدوزید تا بتوانید سوابق رفتاری عامل‌ها را تحلیل کنید.
چرا این موضوع مهم است؟

این موضوع از طریق ستون «اعتبار» (Authority) نهادهایی چون FIDO و Google تعریف می‌شود و نشان می‌دهد که امنیت عامل‌ها از مرحله‌ی شناسایی به مرحله‌ی تحلیل رفتار منتقل شده است. این تغییر باعث می‌شود هزینه‌ی تراکنش‌های ریسک‌پذیر کاهش یابد و پذیرش گسترده‌تر عامل‌های خودمختار در اقتصاد جهانی ممکن شود.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

موضوع‌ها

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.