واژهنامهٔ هوش مصنوعی
نمونهٔ خصمانه چیست؟
ورودیای که با تغییرهای کوچک و عمدیْ نامحسوس برای انسان دستکاری شده تا مدل هوش مصنوعی را به خطای طبقهبندی وادار کند.
واژههای دیگر
استواری خصمانهadversarial robustness
توانایی یک مدل در حفظ عملکرد درست هنگام مواجهه با ورودیهایی که عمداً برای فریب آن دستکاری شدهاند.
عاملagent
یک موجودیت خودمختار هوش مصنوعی که میتواند محیط را درک کند، استدلال کند و عمل انجام دهد.
عاملمحورagentic
مربوط به عاملهای خودمختاری که برنامهریزی میکنند، از ابزارها استفاده میکنند و کارهای چندمرحلهای را بهصورت خودکار اجرا میکنند.
حافظهٔ عاملagent memory
سازوکاری که به عامل هوش مصنوعی اجازه میدهد اطلاعات گفتوگوها و کنشهای پیشین را ذخیره و بازیابی کند تا فراتر از پنجرهٔ زمینهٔ جاری بهخاطر بسپارد.
برنامهریزی عاملagent planning
فرایندی که در آن یک عامل هوش مصنوعی یک هدف را به دنبالهای از گامها و زیرکارها میشکند تا آن را بهصورت خودکار اجرا کند.
ایمنی هوش مصنوعیai safety
حوزهای که میکوشد سامانههای هوش مصنوعی را چنان طراحی کند که بهصورت ناخواسته به انسان یا جامعه آسیب نرسانند.
همهٔ اصطلاحات را در واژهنامهٔ هوش مصنوعی ببینید، یا کار با هوش مصنوعی را در آموزش از پایه یاد بگیرید.