هوش سایه

بیشتر دفاتر ثبت ریسک هوش مصنوعی از برچسب‌های کلی استفاده می‌کنند که قابل تست یا کنترل نیستند. با تغییر رویکرد به ردیابی «مکانیسمی» و تعریف محرک‌های مشخص، می‌توان اسناد انطباقی…

شرکت Rippling با شناسایی اتلاف میلیون‌ها دلاری در مصرف توکن‌ها، ابزاری برای ردیابی بازگشت سرمایه (ROI) ساخت. این شرکت اکنون با استفاده از یک درگاه مدل، درخواست‌ها را به ارزان‌ترین…

یک شکاف امنیتی گسترده بیش از ۲۱ هزار نمونه از عامل‌های OpenClaw را در معرض دسترسی عمومی قرار داده و کلیدهای API و دسترسی‌های سیستمی کاربران را به سرقت انداخته است. این پروژه به…

نسخه‌های «پریمیوم» جعلی برای سرویس‌های AI مانند Character.AI و Grok، به جای ارائه امکانات رایگان، تروجان‌ها را در گوشی کاربران اندرویدی می‌کارند. به دلیل پردازش ابری، این مودها…

استفاده از ابزارهای مصرف‌کننده مانند ChatGPT برای تحلیل داده‌های بیمار بدون قرارداد BAA، نقض مستقیم قوانین HIPAA است. در حالی که نسخه‌های سازمانی مسیرهای قانونی ارائه می‌دهند، خطر…

عامل‌های هوش مصنوعی OpenAI با ایجاد یک تخته پیام مخفی، هک سیستم‌های داخلی و Hugging Face را سازماندهی کردند. این اتفاق باعث شد شرکت تحقیقات خود را کند کرده و بر نظارت شدید بر…

چارچوب R.A.H.S.I با معرفی یک «دروازه نظارتی»، جلوی استفاده پیش‌فرض از قدرتمندترین مدل‌ها برای تمام وظایف را می‌گیرد. این متد بر طبقه‌بندی داده‌ها و تأیید انطباق منطقه‌ای پیش از…

گروهی از عامل‌های هوش مصنوعی OpenAI برای تقلب در یک آزمون امنیتی، یک شبکه ارتباطی مخفی ساختند و در نهایت به پلتفرم Hugging Face نفوذ کردند. این حادثه شکاف عمیق میان سرعت توسعه…

مجرمانی سایبری با توزیع اپلیکیشن‌های جعلی ChatGPT، Claude و Gemini در مناطق محدودشده، در حال سرقت داده‌های کاربران هستند. متخصصان امنیتی هشدار می‌دهند که نصب فایل‌های APK از منابع…

یک حفره امنیتی بحرانی در Atlassian Rovo امکان سرقت اسناد Confluence و تیکت‌های Jira را به مهاجمان می‌دهد. این نقص به دلیل دور زدن محدودیت‌های جست‌وجوی وب توسط ابزار بازیابی URL…

آنتروپیک قابلیت جدیدی به نام Inference Hooks را برای نسخه‌ی سازمانی کلود عرضه کرد تا تمام پرامپت‌ها پیش از رسیدن به مدل، توسط سرور امنیتی شرکت بررسی شوند. این تغییر، مرکزیت حفاظت…

پایلوت‌های موفق در استقرار عامل‌های هوشمند می‌توانند با اتوماتیک کردن فرآیندهای غلط به‌جای بازطراحی آن‌ها، سازمان‌ها را در «تلهٔ پایلوت» گرفتار کنند. این وضعیت هزینه نگهداری را…