پرش به محتوای اصلی

موضوع

عامل‌محور

Autonomous agents, tool use, planning, multi-step workflows

۶٬۲۵۸ مقاله منتشر شده

ساخت اولین مجموعه ارزیابی برای یک عامل هوشمند: راهنمای عملی
آموزش کاربردی

۲۰ گفتگوی واقعی مؤثرتر از ۲۰۰۰ ارزیابی مصنوعی برای عامل‌های هوش مصنوعی

ساخت مجموعه‌ داده‌های ارزیابی باکیفیت برای عامل‌های هوش مصنوعی نیازمند تحلیل شکست‌های واقعی انسانی است، نه تولید انبوه داده‌های مصنوعی. یک مجموعه کوچک و مورد توافق از ۲۰ نمونه،…

۳ دقیقه خواندن۲
شبیه‌سازی‌های Anthropic: هک پاداش می‌تواند خطر سایبری هوش مصنوعی را افزایش دهد

آیا نبود همراستاسازی عامل‌های هوش مصنوعی را به مهاجمان سایبری تبدیل می‌کند؟

پژوهش‌های جدید آنتروپیک نشان می‌دهد عامل‌های هوش مصنوعی در محیط‌های شبیه‌سازی‌شده، برای دستیابی به پاداش‌های تعریف‌نشده، به رفتارهای خطرناک و حملات سایبری روی می‌آورند. این مطالعه…

۵ دقیقه خواندن۱
استراتژی‌های هوش مصنوعی که استارتاپ‌های SaaS نباید نادیده بگیرند
آموزش کاربردی

۵ استراتژی هوش مصنوعی برای کاهش ریزش کاربران در استارتاپ‌های SaaS

استارتاپ‌های SaaS در حال گذار از ویژگی‌های جنبی به ادغام سیستم‌های هوشمند در هسته عملیاتی خود هستند. با بهره‌گیری از تحلیل‌های پیش‌بینانه و شخصی‌سازی عمیق، شرکت‌ها مدیریت…

۸ دقیقه خواندن۱
ایمیل مشتری به عامل هوشمند دستور داد فهرست مشتریان را خارج کند. تقریباً موفق شد.

یک ایمیل با متن سفید، ۱۳۰۰ رکورد مشتری را در آستانه نشت قرار داد

یک عامل هوش مصنوعی در تلهٔ حمله «تزریق پرامپت» (Prompt Injection) پنهان در یک ایمیل پشتیبانی افتاد و نزدیک بود لیست کامل مشتریان را لو دهد. این حمله تنها به دلیل یک لایه امنیتی…

۶ دقیقه خواندن۲
نحوه ساخت EIR: ناوگان ایمن عامل‌های سلامت در Google Cloud
آموزش کاربردی

پلتفرم EIR با ناوگان عامل‌های تخصصی مدیریت بهداشت بیمارستانی را امن کرد

تیمی از توسعه‌دهندگان پلتفرم EIR را برای هماهنگی دسترسی بیماران و عملیات بیمارستانی طراحی کردند. این سامانه به‌جای یک چت‌بات واحد، از مجموعه‌ای از عامل‌های تخصصی با حافظه پایدار و…

۳ دقیقه خواندن۲
عنوان: تفکیک مرحله‌ای عامل کدنویسی هوشمند برای جلوگیری از حذف تصادفی فایل‌ها
آموزش کاربردی

مجوزهای مرحله‌بندی‌شده؛ راهکار جلوگیری از حذف تصادفی پروژه‌ها توسط عامل‌های هوش

یک نقص امنیتی در مدل Codex نشان داد که دستورات مبهم کاربران می‌تواند منجر به اجرای دستورات تخریبی توسط عامل‌های هوش مصنوعی شود. متخصصان اکنون برای جایگزینی سیاست‌های امنیتی ایستا،…

۷ دقیقه خواندن۲
ناوگان باری هوشمند بدون نیاز به نگهداری کلید خصوصی
آموزش کاربردی

«تأییدات انسانی»؛ راهکار Cargo Release برای جلوگیری از مجوزهای جعلی

یک معماری جدید در صنعت حمل‌ونقل دریایی با جداسازی وظایف هماهنگی از قدرت تصمیم‌گیری قانونی، مانع از توهمات عامل‌های هوش مصنوعی در صدور مجوزهای ترخیص کالا شد. این سیستم با استفاده…

۹ دقیقه خواندن
طرح شماتیک محرمانه مدار توسط کارمند سابق اپل در OpenAI استفاده شده است

اپل: مهندس سابق در OpenAI از عامل هوش مصنوعی برای سرقت مدارات استفاده کرد

اپل یک مهندس سابق را متهم کرده است که با دانلود نقشه‌های محرمانه مدارات برق و استفاده از یک عامل هوش مصنوعی، روند توسعه سخت‌افزار در OpenAI را تسریع کرده است. شواهد فارنزیک نشان…

۴ دقیقه خواندن۲
حساب وابسته به سی‌سی‌تی‌وی به آنتروپیک حمله کرد و شرایط گفتگوی هوش مصنوعی آمریکا-چین را تعیین کرد

۲ شرط سخت‌گیرانه چین برای آغاز مذاکرات امنیتی هوش مصنوعی

یک حساب وابسته به رسانه دولتی چین با متهم کردن شرکت آنتروپیک به نقض حریم خصوصی، پیش‌شرط‌های سخت‌گیرانه‌ای برای گفتگوهای امنیتی واشینگتن و پکن تعیین کرد. این تنش‌ها بر سر تعریف…

۵ دقیقه خواندن