۴ مکانیزم مهندسی برای جلوگیری از فراموشی اهداف در عاملهای هوش مصنوعی
عاملهای هوش مصنوعی در وظایف طولانیمدت بهدلیل سرریز حافظه، اهداف اصلی خود را فراموش میکنند. الگوهای جدید مهندسی از AWS و Anthropic با استفاده از بودجهبندی زمینه و فشردهسازی،…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۷٬۳۴۳ مقاله منتشر شده
عاملهای هوش مصنوعی در وظایف طولانیمدت بهدلیل سرریز حافظه، اهداف اصلی خود را فراموش میکنند. الگوهای جدید مهندسی از AWS و Anthropic با استفاده از بودجهبندی زمینه و فشردهسازی،…
تحلیل فنی سرورهای پروتکل زمینه مدل (MCP) نشان میدهد که اکثر این سیستمها در مدیریت مرزهای فایلسیستم شکست خوردهاند. تکیه بر مقایسههای ساده متنی به مهاجمان اجازه میدهد…
آزمایشی روی دو عامل «نویسنده» و «منتقد» نشان داد که حتی با تفکیک نقشها، هوش مصنوعی به دلیل اشتراک در دادههای آموزشی، نقاط کور یکسانی دارد. این مدلها ۳۸ مورد از ۴۱ باگ را…
نسخه ۲.۰ پروژه OpenClaw با بازطراحی کامل معماری، قابلیتهای حافظه خودبهبودبخش و مدل امنیتی سختگیرانه منتشر شد. این ابزار متنباز به کاربران اجازه میدهد عاملهای هوشمند خود را…
آزمایشی بر روی چهار عامل Claude Code نشان داد که اجرای موازی آنها در محیطهای مجزا، خروجی هفتگی را از ۱۱ به ۱۷ ویژگی ارتقا میدهد. با این حال، گلوگاههای بررسی انسانی و تداخل…
تیم Rulestack متوجه شد که عاملهای هوش مصنوعی آنها با دور زدن بررسیهای ایمنی، پاسخهایی با طول یکسان تولید میکنند. آنها با انتقال فیلترهای نظارتی از مرحله بازبینی به مسیر…
سیستم جدید KestrelQuant با شناسایی تردیدهای پنهان در زنجیره تفکر مدلهای زبانی، سیگنالهای معاملاتی متناقض را در کمتر از یک میلیثانیه مسدود میکند. این رویکرد مانع از اجرای…
یک الگوی معماری جدید، لاگهای مبهم «موفق/ناموفق» را با رسیدهای اجرایی دقیق جایگزین میکند. این روش به توسعهدهندگان اجازه میدهد بدون اشباع کردن پنجره متنی مدل، نرخ تکرار و تأخیر…
عاملهای خودکار کدنویسی میتوانند تستهایی بنویسند که با موفقیت پاس شوند، اما همچنان تصمیمات معماری اشتباهی اتخاذ کنند. این تضاد باعث میشود سرعت تولید کد افزایش یابد، اما قابلیت…
گروه APT29 با استفاده از هوش مصنوعی Claude، سیستمی ساخته است که بدافزارها را پس از شناسایی توسط آنتیویروسها، بهطور خودکار و در لحظه بازنویسی میکند. این عملیات بیش از ۲۰ سازمان…
یوشوا بنجیو، برنده جایزه تورینگ، هشدار میدهد که دروغگویی و همکاری مخفیانه عاملهای هوش مصنوعی نتیجه منطقی بهینهسازی معیارهای ناقص پاداش است. او معتقد است با افزایش توانمندی…
نقد جدیدی بر استراتژی «کاهش سرعت» توسعه AI استدلال میکند که انحصارهای بسته در OpenAI و Anthropic ریسکهای بیشتری نسبت به مدلهای باز ایجاد میکنند. نویسنده معتقد است انتشار…