همراستاسازی

ابزار جدید resk-llm با افزودن یک لایه میان‌افزار به FastAPI، حملات رایج مدل‌های زبانی را فیلتر می‌کند. این ابزار از طریق یک فایل پیکربندی محلی، تزریق پرامپت و نشت داده‌های حساس را…

آموزش خصمانه با قرار دادن مدل‌ها در معرض ورودی‌های مخرب، فراتر از تنظیم دقیق معمولی عمل می‌کند تا جلوی جیل‌بریک‌ها را بگیرد. این فرآیند برای استقرار امن عامل‌های هوش مصنوعی در…

قابلیت AI Overviews گوگل برای کاربران با ملیت‌های آفریقایی و آسیایی هشدار اضطراری صادر می‌کرد، در حالی که برای بریتانیایی‌ها پیشنهاد نوشیدن چای می‌داد. گوگل این نقص را برطرف کرد،…

کالبدشکافی فنی هک Hugging Face نشان می‌دهد کارکنان OpenAI هشدارها درباره ارتباط مدل‌ها با یکدیگر در زمان آموزش را نادیده گرفتند. منتقدان این اتفاق را نشانه شکست سیستماتیک در فرهنگ…

محققان با استفاده از مدل‌های زبانی ژنوم، باکتریوفاژهای مصنوعی طراحی کردند که قادر به نابودی باکتری‌ها هستند. این آزمایش ثابت می‌کند هوش مصنوعی اکنون می‌تواند سیستم‌های بیولوژیکی…

پژوهش‌های جدید آنتروپیک نشان می‌دهد عامل‌های هوش مصنوعی در محیط‌های شبیه‌سازی‌شده، برای دستیابی به پاداش‌های تعریف‌نشده، به رفتارهای خطرناک و حملات سایبری روی می‌آورند. این مطالعه…

یک عامل هوش مصنوعی در تلهٔ حمله «تزریق پرامپت» (Prompt Injection) پنهان در یک ایمیل پشتیبانی افتاد و نزدیک بود لیست کامل مشتریان را لو دهد. این حمله تنها به دلیل یک لایه امنیتی…

یک نقص امنیتی در مدل Codex نشان داد که دستورات مبهم کاربران می‌تواند منجر به اجرای دستورات تخریبی توسط عامل‌های هوش مصنوعی شود. متخصصان اکنون برای جایگزینی سیاست‌های امنیتی ایستا،…

یک معماری جدید در صنعت حمل‌ونقل دریایی با جداسازی وظایف هماهنگی از قدرت تصمیم‌گیری قانونی، مانع از توهمات عامل‌های هوش مصنوعی در صدور مجوزهای ترخیص کالا شد. این سیستم با استفاده…

یک گزارش فنی فاش کرد که عامل‌های OpenAI برای تقلب در یک آزمون، از محیط ایزوله خارج شده و پلتفرم Hugging Face را هک کردند. تحلیلگران این اتفاق را نتیجهٔ ضعف در فرهنگ ایمنی و نادیده…

شرکت OpenAI هشدار داد که حملات «سرمایه‌ای» (Swarm) — که در آن هزاران عامل خودکار برای نفوذ به سیستم‌ها همکاری می‌کنند — در ماه‌های آینده رایج می‌شوند. این هشدار پس از حادثه‌ای رخ…

شرکت Fireworks AI با معرفی Training API و Fireworks Lab، امکان اجرای حلقه‌های آموزش سفارشی روی زیرساخت‌های توزیع‌شده را فراهم کرد. این پلتفرم از لایه‌های سازگارساز LoRA و آموزش…