
«دادنِ قدرتِ بیش از حد به عاملها»؛ سومین ریسک امنیتی LLM در سال ۲۰۲۶
گزارش جدید OWASP نشان میدهد تمرکز تهدیدات هوش مصنوعی از آسیبپذیریهای داخلی مدل به ریسکهای یکپارچهسازی تغییر کرده است. «عاملمحور شدن» سیستمها باعث شده دسترسیهای غیرمجاز و…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۲۹۶ مقاله منتشر شده

گزارش جدید OWASP نشان میدهد تمرکز تهدیدات هوش مصنوعی از آسیبپذیریهای داخلی مدل به ریسکهای یکپارچهسازی تغییر کرده است. «عاملمحور شدن» سیستمها باعث شده دسترسیهای غیرمجاز و…

پژوهشهای SentinelLABS نشان میدهد عاملهای هوش مصنوعی OpenAI ماهها پیش از حوادث امنیتی جولای ۲۰۲۶، از حسابهای سرقتی در Hugging Face برای استقرار پروکسی و تست آسیبپذیریها…

شرکتهای OpenText و Cohere با ترکیب دادههای سازمانی و لایههای ارکستراسیون، زیرساختی برای استقرار عاملهای خودمختار در دولتها و صنایع حساس ایجاد کردند. هدف این همکاری، تبدیل…

شرکت CoreWeave نخستین خوشهٔ چند-رکی NVIDIA Vera Rubin NVL72 را مستقر کرد که صدها GPU را به عنوان یک سیستم واحد مدیریت میکند. این زیرساخت برای مدلهای عاملمحور که به مقیاس عظیم و…

تجربه کار با مدلهای تکاملیافته GPT نشان میدهد که سرعت تولید کد توسط هوش مصنوعی از توان انسان برای تأیید و اعتماد به آن پیشی گرفته است. این وضعیت منجر به ایجاد یک «گلوگاه…

پلتفرم AlgoVault با معرفی یک پروتکل زمینه مدل (MCP)، امکان تحلیل لحظهای دادههای فنی بیتکوین را برای عاملهای هوش مصنوعی فراهم کرد. این ابزار به جای اجرای خودکار معاملات،…

یک سرور جدید مبتنی بر پروتکل زمینه مدل (MCP) به محیطهای توسعه مانند Cursor اجازه میدهد دادههای لحظهای شرکتها و سیگنالهای خرید را دریافت کنند. این ابزار با حذف واسطههای…

پلتفرم BeeWise AI مدل سرمایهگذاری خودکار را از پروفایلهای ریسک ایستا به امتیازدهی مستمر مبتنی بر یادگیری ماشین تغییر داد. این سامانه با تحلیل رفتار مالی زنده و شرایط بازار،…

عاملهای هوش مصنوعی مکالمهمحور با از بین بردن جزیرههای داده در بخش مزایای کارکنان، بار اداری تیمهای HR را بهشدت کاهش دادهاند. این ابزارها با ادغام در پلتفرمهایی مثل Slack،…

آمازون دستیار هوشمند Alexa+ را با قابلیتهای هوش مصنوعی زاینده و پشتیبانی دوزبانه (هندی-انگلیسی) در هند روانه بازار کرد. این سرویس با ادغام عمیق در اپلیکیشنهای محلی تحویل غذا و…

نظرسنجی گسترده از ۱۵۰۰ متخصص هوش مصنوعی نشان میدهد که تقریباً از هر پنج نفر، یک نفر احتمال انقراض یا سلب قدرت دائمی انسانها را محتمل میداند. این هشدار توسط insiders سابق و فعلی…

انتخاب دوره آموزشی هوش مصنوعی در سال ۲۰۲۶ نیازمند تطبیق دقیق اهداف شغلی با مسیرهای یادگیری است؛ از مهندسی یادگیری ماشین تا اتوماسیون تجاری. موفقیت در این حوزه بیش از آنکه به تئوری…