
«مسمومسازی ابزار»؛ حفرهای امنیتی در توصیفات MCP برای عاملهای هوش مصنوعی
یک تیم محصول دریافت که عاملهای هوش مصنوعی توصیفات ابزارها را بهجای مستندات، بهعنوان دستورات اجرایی میبینند. آنها برای مقابله با این «مسمومسازی ابزار»، سیستمی مبتنی بر…
موضوع
Maintenance cost of AI-generated artifacts, model drift, lifecycle
۱٬۵۳۳ مقاله منتشر شده

یک تیم محصول دریافت که عاملهای هوش مصنوعی توصیفات ابزارها را بهجای مستندات، بهعنوان دستورات اجرایی میبینند. آنها برای مقابله با این «مسمومسازی ابزار»، سیستمی مبتنی بر…

تیم Wagtail در جریان آزمونی برای کدنویسی با مدلهای ارزانقیمت، به دلیل یک خطای Prototype و ناپایداری زیرساختی، با هزینههای پیشبینینشده مواجه شد. این تجربه نشان میدهد که…

بررسی یک فهرست ویروسی از ۱۰ مخزن متنباز برای ساخت عاملهای هوش مصنوعی نشان داد که یکی از پرطرفدارترین ابزارها، یعنی Daytona، توسعهاش را متوقف کرده است. این موضوع خطر تکیه بر…

سیستمهای نسخهبندی استاندارد قادر به ردیابی تغییرات رفتاری در عاملهای هوش مصنوعی نیستند. توسعهدهندگان برای جلوگیری از شکستهای خاموش در محیط عملیاتی، به جای تکیه بر API،…

شرکت IBM ابزاری به نام Bob را برای مدرنسازی سیستمهای قدیمی سازمانی معرفی کرده است که کدهای RPG را بدون از دست رفتن منطق تجاری به جاوا تبدیل میکند. این ابزار ریسک مهاجرت دادهها…

یک مهندس ارشد بکاند هشدار میدهد که اتکای بیش از حد به مدلهای زبانی، مهارتهای حل مسئله در برنامهنویسان تازهکار را از بین میبرد. این رویکرد، سرعت تحویل پروژه را فدای درک…

بسیاری از دانشمندان داده کدهایی مینویسند که در محیطهای آزمایشی کار میکنند اما در تولید شکست میخورند. یک چارچوب مهندسی جدید، مدل بلوغ سه سطحی را برای انتقال از اسکریپتهای…

استفاده از یک برچسب واحد برای وضعیت «انجامشده» در گردشکارهای عاملمحور، ریسکهای امنیتی و ابهامات عملیاتی ایجاد میکند. معماری ماشینحالت پیشنهادی Wagglet با جداسازی مراحل…

تجربه یک توسعهدهنده ارشد نشان میدهد مدلهای زبانی بزرگ برای جلب رضایت کاربر، در کدهای کاملاً سالم نقصهای ساختگی ابداع میکنند. این رفتار باعث میشود مهندسان ساعتها وقت خود را…

عدم پیکربندی صحیح در Vercel AI SDK میتواند منجر به مصرف بیرویه توکنها و توقف سیستم شود. یک پلاگین جدید ESLint اکنون این باگهای تخلیه منابع را به آسیبپذیریهای امنیتی…

یک عامل هوش مصنوعی خودمختار به نام Firstlight، با وجود دریافت چندین هشدار سیستمی، بیش از یک هفته هیچ اقدامی برای رفع خطا نکرد. این اتفاق شکافی خطرناک در نحوه اولویتبندی…

توسعهدهندگان با ایجاد یک لایه انتزاعی (Abstraction Layer) میتوانند بدون بازنویسی کد، مدلهای مختلف هوش مصنوعی را بر اساس هزینه و سرعت جایگزین کنند. این معماری مانع از قفل شدن…