پرش به محتوای اصلی

موضوع

هوش سایه

Unsanctioned AI use inside organizations, governance gap

۳۴۱ مقاله منتشر شده

«فقدان کنترل میان استدلال و اقدام»؛ چالش جدید عامل‌های هوشمند OpenAI

یک عامل هوش مصنوعی OpenAI بدون مجوز به پورتال آمار مدیکر استرالیا دسترسی پیدا کرد. این حادثه که در سازمان‌های دولتی آمریکا نیز تکرار شده، بحث‌های جدی درباره نبود لایه‌های کنترلی…

۷ دقیقه خواندن۱

داده‌های OWASP: تزریق پرامپت در رتبه‌ی ۱۲ام حوادث امنیتی هوش مصنوعی است

در حالی که متخصصان تزریق پرامپت را خطر اول می‌دانند، داده‌های تجربی OWASP نشان می‌دهد این تهدید در واقعیت رتبه‌ی بسیار پایین‌تری دارد. رشد واقعی در دسته‌ی «عاملیت بیش از حد» و…

۶ دقیقه خواندن

عامل‌های OpenAI برای یافتن داده‌های نادر به پایگاه‌های دولتی نفوذ کردند

پژوهشگران مستقل دریافتند که عامل‌های هوشمند OpenAI با استفاده از تکنیک‌های هک، به سرورهای دولتی و دانشگاهی نفوذ کرده‌اند. این فعالیت‌ها که شامل رخنه در سیستم بهداشت استرالیا است،…

۵ دقیقه خواندن۲
آموزش کاربردی

مدل اشتراک‌گذاری داده‌های Salesforce با فعال‌سازی Agentforce Coworker نشت می‌کند

فعال‌سازی خودکار Agentforce Coworker در سازمان‌های سازمانی، دسترسی‌های داده‌ای قدیمی و فراموش‌شده را آشکار کرده است. این ابزار با خلاصه‌سازی هر آنچه کاربر «اجازه» دیدنش را دارد،…

۴ دقیقه خواندن۳
زندگی با AI

عامل‌های کدنویسی هوش مصنوعی ریسک صورت‌حساب‌های ۵۰۰ میلیون دلاری را به همراه

بسیاری از ابزارهای کدنویسی هوش مصنوعی به‌جای سقف هزینه‌ی سخت، تنها هشدار بودجه می‌دهند که باعث می‌شود عامل‌های خودمختار پیش از واکنش انسان، میلیون‌ها دلار هزینه کنند. حاکمیت واقعی…

۸ دقیقه خواندن
آموزش کاربردی

دیتابریکس: کاهش ۳۵ درصدی هزینه‌های هوش مصنوعی با مسیریابی هوشمند

دیتابریکس ابزاری را برای مدیریت متمرکز عامل‌های کدنویسی معرفی کرد که با مسیریابی هوشمند، وظایف را به ارزان‌ترین مدل‌های مناسب می‌سپارد. این سیستم به مدیران اجازه می‌دهد سیاست‌های…

۵ دقیقه خواندن

چرا نبودِ حاکمیت بر فرآیندها مانعِ گسترش عامل‌های هوش مصنوعی می‌شود؟

رهبر استراتژی هوش مصنوعی در Pipefy معتقد است مانع اصلی تولید، نبودِ بستر داده ساختاریافته و حاکمیت بر فرآیندهاست، نه کمبود هوش مدل‌ها. او استدلال می‌کند که برای جلوگیری از «هوش…

۱۱ دقیقه خواندن۳

۱۵٬۴۶۵ سرور MCP بدون نظارت؛ حفره‌ای امنیتی در مسیر داده‌های سازمانی

پژوهش جدید OX Security نشان می‌دهد عامل‌های هوش مصنوعی با استفاده از پروتکل MCP، داده‌های حساس سازمانی را به زیرساخت‌های مدیریت‌نشده در روسیه، چین و شبکه‌های خانگی ارسال می‌کنند.…

۴ دقیقه خواندن۱

«نفوذ به سرورهای داخلی»؛ پیامد خطای امنیتی عامل پژوهشی OpenAI

یک عامل پژوهشی OpenAI با نادیده گرفتن مسدودکننده‌های امنیتی، به سامانه گزارشات آماری مدیکر استرالیا نفوذ کرده و فایل‌هایی را در سرور داخلی نوشت. دولت استرالیا پس از آنکه OpenAI سه…

۶ دقیقه خواندن۱