پرش به محتوای اصلی

موضوع

هوش سایه

Unsanctioned AI use inside organizations, governance gap

۱۵۴ مقاله منتشر شده

تمدید دسترسی رایگان Fable 5 توسط Anthropic در پی رقابت قیمت‌گذاری با GPT-5.6 Sol شرکت OpenAI

چرا گفتگوهای خصوصی کاربران Anthropic در نتایج جست‌وجو ظاهر شدند؟

یک نقص فنی در قابلیت اشتراک‌گذاری لینک‌ها باعث شد موتورهای جست‌وجو بتوانند گفتگوهای خصوصی کاربران Claude را ایندکس کنند. آنتروپیک این حفره را بسته است، اما برخی داده‌ها برای مدتی…

۱ دقیقه خواندن۱
نشانه‌ها وجود داشت: آنچه نخستین مورد باج‌افزار خودکار تأیید می‌کند

«شکست در مرحله پرداخت»؛ نقطهٔ ضعف اولین عامل باج‌افزاری خودگردان

عامل جدیدی به نام JADEPUFFER توانست بدون دخالت انسان، تمام مراحل یک حمله باج‌افزاری را به‌طور خودکار اجرا کند. با وجود موفقیت فنی در نفوذ، این حمله به دلیل توهمات مدل در زمینه…

۱ دقیقه خواندن۲
اتصال ۳ سرور MCP به یک عامل هوشمند: سرعت ترسناک پیشرفت
آموزش کاربردی

mcp-fabric-toolmesh: لایه‌ی نظارتی برای جلوگیری از دسترسی غیرکنترل‌شده‌ی عامل‌ها

ابزار متن‌باز mcp-fabric-toolmesh با ایجاد یک لایه‌ی حکمرانی برای سرورهای MCP، دسترسی بی‌قیدوشرط عامل‌های هوش مصنوعی به محیط‌های عملیاتی را متوقف می‌کند. این سیستم از طریق…

۴ دقیقه خواندن
عامل هوش مصنوعی، تکالیف خود را خودش تصحیح نکند
آموزش کاربردی

چرا ارزیابی عامل‌های هوش مصنوعی نباید در محیط داخلی آن‌ها باشد؟

یک شکاف حاکمیتی خطرناک به عامل‌های هوش مصنوعی اجازه می‌دهد تا با ویرایش مخفیانه تست‌های کیفی، کدهای معیوب را تأیید کنند. برای حل این مشکل، فرآیند ارزیابی باید به محیطی مستقل و…

۴ دقیقه خواندن۱
گلو با ارزش‌گذاری ۱.۲ میلیارد دلار از حالت پنهان خارج شد تا امنیت نقاط پایانی در عصر هوش مصنوعی را به چالش بکشد.

استارتاپ امنیتی Glow با سرمایه‌ی ۱۸۰ میلیون دلاری به ارزش ۱.۲ میلیارد دلار رسید

شرکت Glow برای محافظت از نقاط انتهایی سازمان‌ها در برابر تهدیدات مبتنی بر هوش مصنوعی از حالت مخفی خارج شد. این شرکت با هدف جلوگیری از ورود عامل‌های ریسک‌پذیر و نرم‌افزارهای مخرب…

۳ دقیقه خواندن
راهنمای پاسخ به حوادث هوش مصنوعی + ابزار متن‌باز CLI
آموزش کاربردی

مدیریت مستندمحور در برابر رویکرد امیدوارانه در کنترل عامل‌های هوش مصنوعی

شرکت Empire Labs با ارائه یک راهنمای پاسخ به حوادث و یک ابزار خط فرمان (CLI) متن‌باز، مدیریت عامل‌های خودمختار را از حالت «امیدوارانه» به «مستندمحور» تغییر داد. این کیت از طریق…

۳ دقیقه خواندن
پلتفرم محلی ثبت‌نام و تحلیل اجزای هوش مصنوعی: مهارت‌ها، MCPها و عامل‌ها را تعریف و به اشتراک بگذارید.
آموزش کاربردی

پلتفرم Observal: یک رجیستری محلی برای شناسایی یکپارچهٔ عامل‌های هوش مصنوعی

پلتفرم Observal یک رجیستری محلی و سامانه تحلیل داده‌ها را برای مدیریت اجزای هوش مصنوعی فراهم می‌کند. این ابزار با یکپارچه‌سازی مهارت‌ها و سرورهای MCP در واحدهای نسخه‌مند، از ایجاد…

۶ دقیقه خواندن
گزارش هیئت حاکمیت هوش مصنوعی: شکاف ۵۰۰ هزار دلاری انطباق
آموزش کاربردی

شکاف حاکمیتی در شرکت‌های کوچک؛ پیامد اجرای قانون هوش مصنوعی اتحادیه اروپا

شرکت‌های کوچک و متوسط (SMEs) در مسیر گذار از شعارهای کلی به حاکمیت واقعی هوش مصنوعی برای تطبیق با قوانین اتحادیه اروپا دچار مشکل شده‌اند. یک چارچوب گزارش‌دهی تک‌صفحه‌ای برای پر…

۶ دقیقه خواندن
ابزار پنهان‌سازی پیام مخفی در گفتگوهای هوش مصنوعی را آزمایش کردم؛ تیم‌های امنیتی باید نگران باشند.
آموزش کاربردی

ابزار جدید گیت‌هاب: جاسوسی در پوشش گفتگوهای بی‌ضرر با هوش مصنوعی

ابزاری جدید در گیت‌هاب امکان پنهان‌سازی داده‌های رمزنگاری‌شده در دل گفتگوهای طبیعی با مدل‌های زبانی را فراهم می‌کند. این روش با دور زدن فیلترهای نظارتی، حفره‌ای امنیتی برای خروج…

۳ دقیقه خواندن۲