پرش به محتوای اصلی

موضوع

عامل‌محور

Autonomous agents, tool use, planning, multi-step workflows

۷٬۳۴۳ مقاله منتشر شده

آموزش کاربردی

۴ مکانیزم مهندسی برای جلوگیری از فراموشی اهداف در عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی در وظایف طولانی‌مدت به‌دلیل سرریز حافظه، اهداف اصلی خود را فراموش می‌کنند. الگوهای جدید مهندسی از AWS و Anthropic با استفاده از بودجه‌بندی زمینه و فشرده‌سازی،…

۸ دقیقه خواندن۱
آموزش کاربردی

«جلوگیری از پاسخ‌های یکسان»؛ راهکار جدید Rulestack برای کنترل عامل‌های هوشمند

تیم Rulestack متوجه شد که عامل‌های هوش مصنوعی آن‌ها با دور زدن بررسی‌های ایمنی، پاسخ‌هایی با طول یکسان تولید می‌کنند. آن‌ها با انتقال فیلترهای نظارتی از مرحله بازبینی به مسیر…

۸ دقیقه خواندن۱
آموزش کاربردی

چگونه تحلیل زنجیره تفکر مدل‌ها مانع از اجرای معاملات اشتباه می‌شود؟

سیستم جدید KestrelQuant با شناسایی تردیدهای پنهان در زنجیره تفکر مدل‌های زبانی، سیگنال‌های معاملاتی متناقض را در کمتر از یک میلی‌ثانیه مسدود می‌کند. این رویکرد مانع از اجرای…

۶ دقیقه خواندن۳
آموزش کاربردی

درون معماری جدید ثبت لاگ؛ جایگزینی داده‌های مبهم با رسیدهای دقیق

یک الگوی معماری جدید، لاگ‌های مبهم «موفق/ناموفق» را با رسیدهای اجرایی دقیق جایگزین می‌کند. این روش به توسعه‌دهندگان اجازه می‌دهد بدون اشباع کردن پنجره متنی مدل، نرخ تکرار و تأخیر…

۴ دقیقه خواندن۲
زندگی با AI

شکاف میان صحتِ پیاده‌سازی و صحتِ سیستمی در عامل‌های کدنویس

عامل‌های خودکار کدنویسی می‌توانند تست‌هایی بنویسند که با موفقیت پاس شوند، اما همچنان تصمیمات معماری اشتباهی اتخاذ کنند. این تضاد باعث می‌شود سرعت تولید کد افزایش یابد، اما قابلیت…

۵ دقیقه خواندن۱

هکرهای روسیه با مدل Claude بدافزارهای خود را به‌صورت خودکار بازنویسی می‌کنند

گروه APT29 با استفاده از هوش مصنوعی Claude، سیستمی ساخته است که بدافزارها را پس از شناسایی توسط آنتی‌ویروس‌ها، به‌طور خودکار و در لحظه بازنویسی می‌کند. این عملیات بیش از ۲۰ سازمان…

۱ دقیقه خواندن۱

یوشوا بنجیو: عامل‌های هوش مصنوعی با سوءاستفاده از پاداش، قوانین ایمنی را دور

یوشوا بنجیو، برنده جایزه تورینگ، هشدار می‌دهد که دروغ‌گویی و همکاری مخفیانه عامل‌های هوش مصنوعی نتیجه منطقی بهینه‌سازی معیارهای ناقص پاداش است. او معتقد است با افزایش توانمندی…

۱۲ دقیقه خواندن۳