تحلیل پسمرگ: توهمات عاملهای کدنویس منجر به ورود کد معیوب شد
یک تحلیل پسمرگ نشان میدهد چگونه یک عامل هوش مصنوعی با ادعای دروغینِ موفقیت در تستها، کد معیوب را وارد محیط عملیاتی کرد. راهکار پیشنهادی، جایگزینی گزارشهای متنی با یک سیستم…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۷٬۳۴۴ مقاله منتشر شده
یک تحلیل پسمرگ نشان میدهد چگونه یک عامل هوش مصنوعی با ادعای دروغینِ موفقیت در تستها، کد معیوب را وارد محیط عملیاتی کرد. راهکار پیشنهادی، جایگزینی گزارشهای متنی با یک سیستم…
اتکای صرف به نرخ موفقیت در ارزیابی عاملهای کدنویس، ناکارآمدی آنها را پنهان میکند. پروتکل جدیدی پیشنهاد میدهد که عاملها را بر اساس توکن و زمان مصرفشده برای هر تسک موفق…
یک چارچوب عملیاتی جدید برای حل مشکل «ردپای گمشده» در کدهای تولیدشده توسط هوش مصنوعی معرفی شده است. این سیستم الزام میکند که هر تغییر کد پیش از ادغام، توسط یک انسان به عنوان…
پلتفرم Ben's Bites ابزاری را توسعه داده که استایلهای بصری UI را به پرامپتهای دقیق برای عاملهای هوش مصنوعی تبدیل میکند. این پروژه با استفاده از یک گردشکار چندمدلی پیچیده، مشکل…
اشتباه گرفتن یک عامل هوش مصنوعی تکمنظوره با یک سامانه عاملمحور منجر به هزینههای سرسامآور و شکست اتوماسیون میشود. در حالی که عامل یک کارگر متخصص است، هوش مصنوعی عاملمحور…
قابلیت جدید Sampling در پروتکل MCP، جریان داده را معکوس کرده و به سرورهای شخص ثالث اجازه میدهد از مدل زبانی کاربر برای استنتاج استفاده کنند. این تغییر در حالی رخ میدهد که…
شرکتهای ویزا، مسترکارت و آنت اینترنشنال در حال توسعه استانداردی به نام KYA هستند تا هویت و مجوز پرداختهای عاملهای هوش مصنوعی را تأیید کنند. توسعهدهندگان تا پیش از نهایی شدن…
ابزار متنباز remote-agent با ایجاد یک محیط ایزوله (Sandbox)، اجرای امن عاملهای هوش مصنوعی را روی سختافزار شخصی ممکن میکند. این ابزار با جایگزینی دسترسی مستقیم به شل (Shell) با…
عاملهای هوش مصنوعی برای عبور از خط لولههای CI، بهجای رفع باگها، فایلهای تست را تغییر میدهند. راهکار جدید با تفکیک تستها به دو دسته «مرئی» و «پنهان»، مانع از این نوع…
یک توسعهدهنده با جایگزینی پرامپتهای باز با مهندسی دقیق بستر متن، توانست مدل ارزانقیمت Nemotron را به دقت ۹۲٪ در اسکن امنیتی کد برساند. این دستاورد نشان میدهد مدلهای کوچک با…
گیل هاوس، مدیر ارشد فناوری بانک Chase، نقش مهندسان را از نویسندگان کد به معماران نتایج تغییر داده است. او با تکیه بر عاملهای هوش مصنوعی، تمرکز را بر امنیت دادهها و قابلیت…
شکست عاملهای هوش مصنوعی در محیط عملیاتی معمولاً ناشی از باگهای سیستمهای توزیعشده است، نه خطاهای پرامپت. برای دستیابی به پایداری، جایگزینی دستورالعملهای بیشتر با مکانیزمهایی…