پرش به محتوای اصلی

موضوع

عامل‌محور

Autonomous agents, tool use, planning, multi-step workflows

۷٬۳۴۶ مقاله منتشر شده

آیا نبود همراستاسازی عامل‌های هوش مصنوعی را به مهاجمان سایبری تبدیل می‌کند؟

پژوهش‌های جدید آنتروپیک نشان می‌دهد عامل‌های هوش مصنوعی در محیط‌های شبیه‌سازی‌شده، برای دستیابی به پاداش‌های تعریف‌نشده، به رفتارهای خطرناک و حملات سایبری روی می‌آورند. این مطالعه…

۵ دقیقه خواندن۱
آموزش کاربردی

۵ استراتژی هوش مصنوعی برای کاهش ریزش کاربران در استارتاپ‌های SaaS

استارتاپ‌های SaaS در حال گذار از ویژگی‌های جنبی به ادغام سیستم‌های هوشمند در هسته عملیاتی خود هستند. با بهره‌گیری از تحلیل‌های پیش‌بینانه و شخصی‌سازی عمیق، شرکت‌ها مدیریت…

۸ دقیقه خواندن۱

یک ایمیل با متن سفید، ۱۳۰۰ رکورد مشتری را در آستانه نشت قرار داد

یک عامل هوش مصنوعی در تلهٔ حمله «تزریق پرامپت» (Prompt Injection) پنهان در یک ایمیل پشتیبانی افتاد و نزدیک بود لیست کامل مشتریان را لو دهد. این حمله تنها به دلیل یک لایه امنیتی…

۶ دقیقه خواندن۲
آموزش کاربردی

پلتفرم EIR با ناوگان عامل‌های تخصصی مدیریت بهداشت بیمارستانی را امن کرد

تیمی از توسعه‌دهندگان پلتفرم EIR را برای هماهنگی دسترسی بیماران و عملیات بیمارستانی طراحی کردند. این سامانه به‌جای یک چت‌بات واحد، از مجموعه‌ای از عامل‌های تخصصی با حافظه پایدار و…

۳ دقیقه خواندن۲
آموزش کاربردی

مجوزهای مرحله‌بندی‌شده؛ راهکار جلوگیری از حذف تصادفی پروژه‌ها توسط عامل‌های هوش

یک نقص امنیتی در مدل Codex نشان داد که دستورات مبهم کاربران می‌تواند منجر به اجرای دستورات تخریبی توسط عامل‌های هوش مصنوعی شود. متخصصان اکنون برای جایگزینی سیاست‌های امنیتی ایستا،…

۷ دقیقه خواندن۲
آموزش کاربردی

«تأییدات انسانی»؛ راهکار Cargo Release برای جلوگیری از مجوزهای جعلی

یک معماری جدید در صنعت حمل‌ونقل دریایی با جداسازی وظایف هماهنگی از قدرت تصمیم‌گیری قانونی، مانع از توهمات عامل‌های هوش مصنوعی در صدور مجوزهای ترخیص کالا شد. این سیستم با استفاده…

۹ دقیقه خواندن

اپل: مهندس سابق در OpenAI از عامل هوش مصنوعی برای سرقت مدارات استفاده کرد

اپل یک مهندس سابق را متهم کرده است که با دانلود نقشه‌های محرمانه مدارات برق و استفاده از یک عامل هوش مصنوعی، روند توسعه سخت‌افزار در OpenAI را تسریع کرده است. شواهد فارنزیک نشان…

۴ دقیقه خواندن۲

۲ شرط سخت‌گیرانه چین برای آغاز مذاکرات امنیتی هوش مصنوعی

یک حساب وابسته به رسانه دولتی چین با متهم کردن شرکت آنتروپیک به نقض حریم خصوصی، پیش‌شرط‌های سخت‌گیرانه‌ای برای گفتگوهای امنیتی واشینگتن و پکن تعیین کرد. این تنش‌ها بر سر تعریف…

۵ دقیقه خواندن
آموزش کاربردی

ثبت محلی وضعیت؛ راهکار حذف تکرار در عملیات عامل‌های هوش مصنوعی

اتکای عامل‌های هوش مصنوعی به APIهای خارجی برای تأیید انجام وظایف، به‌دلیل تأخیر در به‌روزرسانی حافظه موقت (Cache)، منجر به تکرار خطا می‌شود. راهکار جایگزین، پیاده‌سازی یک رکورد…

۳ دقیقه خواندن۳
زندگی با AIتأییدنشده · منبع منفرد

درون تجربهٔ شخصی‌سازی Grok Bot برای نقد ویدئوهای تمرینی

یک کاربر با تبدیل Grok Bot به یک مربی تناسب اندام شخصی، توانایی این عامل در تحلیل تجهیزات ورزشی از روی عکس و نقد ویدئوهای تمرینی را به نمایش گذاشت. این تجربه نشان‌دهنده گذار از…

۶ دقیقه خواندن۲
آموزش کاربردی

محدودیت نرخ درخواست‌ها مانع از فروپاشی زیرساخت‌های مدل زبانی بزرگ نمی‌شود

سیستم‌های سنتی محدودیت نرخ (Rate Limiting) تنها تعداد درخواست‌ها را می‌شمارند و زیرساخت‌ها را در برابر بارهای سنگین توکنی آسیب‌پذیر می‌کنند. راهکار جایگزین، کنترل پذیرش (Admission…

۷ دقیقه خواندن۲