هوش سایه

مؤسسات مالی برای عبور از بن‌بست‌های نظارتی، از درگاه‌های هوش مصنوعی (AI Gateways) برای مدیریت مدل‌های زبانی استفاده می‌کنند. Bifrost با استقرار در شبکه‌های خصوصی و کنترل نقاط…

انتقال درگاه‌های هوش مصنوعی به محیط‌های ابری خصوصی، ریسک نشت داده‌ها در اینترنت عمومی را حذف کرده و تأخیر را کاهش می‌دهد. شرکت‌ها با استفاده از ابزارهایی مثل Bifrost می‌توانند…

یک تحلیل فنی فاش کرد که ChatGPT در درخواست‌های GET، مراحل تأییدیه کاربر را نادیده می‌گیرد. این نقص به عامل‌های مخرب اجازه می‌دهد داده‌های حساس را بدون اطلاع کاربر و به‌صورت خاموش…

دولت آمریکا قصد دارد شرکت‌های داخلی را از به‌کارگیری مدل‌های هوش مصنوعی چینی منع کند تا از نفوذ ایدئولوژیک و سانسور پکن جلوگیری کند. این تصمیم در حالی می‌آید که شرکت‌های آمریکایی…

شرکت DataRobot یک چارچوب عملی برای مدیریت ریسک هوش مصنوعی در محیط‌های ترکیبی، از جمله شبکه‌های خصوصی و لبه معرفی کرد. این راهنما بر جایگزینی داشبوردهای نظارتی غیرفعال با «گیت‌های…

پژوهش USENIX نشان می‌دهد دستیاران کدنویسی AI مرتباً بسته‌های نرم‌افزاری جعلی پیشنهاد می‌دهند. مهاجمان با تکنیکی به نام «Slopsquatting»، این نام‌های توهمی را ثبت کرده و بدافزار را…

نسخه ۲.۱۱.۰ ابزار Commit Check سیستمی را معرفی کرد که امضاهای تولیدشده توسط هوش مصنوعی را در مرحله یکپارچه‌سازی مستمر (CI) شناسایی و مسدود می‌کند. این قابلیت شکاف حاکمیت در…

یک سرور مخرب در پروتکل MCP با استفاده از نسخه‌های پاک، اعتماد توسعه‌دهندگان را جلب کرد و سپس داده‌های حساس ایمیلی را برای مهاجم ارسال کرد. این حادثه نشان می‌دهد که اعتماد به…

کارمندان به‌طور گسترده داده‌های حساس مشتریان را در ابزارهای هوش مصنوعی عمومی می‌ریزند و ریسک «هوش مصنوعی سایه» را افزایش می‌دهند. ماسک‌گذاری محلی PII با جایگزینی شناسه‌ها با…

بایت‌دنس ابزار تولید ویدیو Seedance را علی‌رغم مخالفت رسمی استودیوها به قلب صنعت سینما وارد کرده است. در حالی که MPA خواستار ممنوعیت این ابزار است، سازندگان فیلم به‌طور مخفیانه از…

اکثر عامل‌های هوش مصنوعی هنگام استقرار دسترسی‌های بیش‌ازحد دریافت می‌کنند که آن‌ها را به هدفی ایده‌آل برای تزریق پرامپت تبدیل می‌کند. یک چارچوب امنیتی جدید ۶ قانون سخت‌گیرانه برای…

شرکت Anthropic برای جلوگیری از تقطیر مدل توسط شرکت‌های چینی، محدودیت‌های شدیدی را اعمال کرده است. با این حال، غول‌هایی مثل ByteDance با استفاده از VPN و شرکت‌های واسطه، این…