واژهنامهٔ هوش مصنوعی
استواری خصمانه چیست؟
توانایی یک مدل در حفظ عملکرد درست هنگام مواجهه با ورودیهایی که عمداً برای فریب آن دستکاری شدهاند.
واژههای دیگر
عاملagent
یک موجودیت خودمختار هوش مصنوعی که میتواند محیط را درک کند، استدلال کند و عمل انجام دهد.
عاملمحورagentic
مربوط به عاملهای خودمختاری که برنامهریزی میکنند، از ابزارها استفاده میکنند و کارهای چندمرحلهای را بهصورت خودکار اجرا میکنند.
حافظهٔ عاملagent memory
سازوکاری که به عامل هوش مصنوعی اجازه میدهد اطلاعات گفتوگوها و کنشهای پیشین را ذخیره و بازیابی کند تا فراتر از پنجرهٔ زمینهٔ جاری بهخاطر بسپارد.
برنامهریزی عاملagent planning
فرایندی که در آن یک عامل هوش مصنوعی یک هدف را به دنبالهای از گامها و زیرکارها میشکند تا آن را بهصورت خودکار اجرا کند.
ایمنی هوش مصنوعیai safety
حوزهای که میکوشد سامانههای هوش مصنوعی را چنان طراحی کند که بهصورت ناخواسته به انسان یا جامعه آسیب نرسانند.
سوگیری الگوریتمیalgorithmic bias
گرایش نظاممند یک مدل به نتایج ناعادلانه دربارهٔ گروههای خاص، که معمولاً از دادههای آموزشیِ جانبدار سرچشمه میگیرد.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.