بردارهای ثابت argv؛ راهکاری برای توقف تزریق کد در عاملهای هوش مصنوعی
یک الگوی معماری جدید برای فراخوانی ابزارها، جایگزینی امن برای دستورات متنی خطرناک معرفی کرده است. این روش با استفاده از بردارهای ثابت argv و اعتبارسنجی سختگیرانه JSON Schema،…
موضوع
۵٬۱۸۵ مقاله منتشر شده
یک الگوی معماری جدید برای فراخوانی ابزارها، جایگزینی امن برای دستورات متنی خطرناک معرفی کرده است. این روش با استفاده از بردارهای ثابت argv و اعتبارسنجی سختگیرانه JSON Schema،…
جداول قیمتگذاری استاندارد مدلهای زبانی اغلب با نادیده گرفتن تفاوتهای توکنسازی و نرخهای تبدیل چندوجهی، تخمینهای بودجه را به شدت خطا میبرند. تحلیل واقعی هزینه نیازمند تست…
یک الگوی معماری جدید پیشنهاد میدهد که حلقههای کاری عاملهای هوش مصنوعی به دو مسیر مجزای «برنامهریزی» و «اجرا» تقسیم شوند. این رویکرد با ایزولهکردن ابزارهای تغییردهنده، از…
پلتفرم ToolJet نشان داد که چگونه میتوان با یک پرامپت جامع، یک اپلیکیشن عملیاتی برای مدیریت چیدمان انبار شامل مدلهای داده و سیستم بررسی قوانین زنده ایجاد کرد. این رویکرد فراتر از…
زیرساخت جدیدی به نام COGEXT با اجباری کردن انتقال وضعیت بر اساس شواهد، مانع از ادعاهای دروغین عاملهای خودکار دربارهٔ تکمیل وظایف میشود. این لایه با تبدیل تعهدات به دادههای قابل…
یک حادثه امنیتی در سیستمعامل فدورا نشان داد که کانتینرهای استاندارد داکر نمیتوانند مانع از عملیات تخریبی عاملهای خودمختار روی سیستم میزبان شوند. متخصصان هشدار میدهند که…
سیستمهای سنتی مدیریت داده مانند LookML و dbt بهدلیل اتکای شدید به تعریف دستی متریکها، سرعت عمل عاملهای هوش مصنوعی را محدود میکنند. برای مقیاسپذیری واقعی، صنعت باید از…
سیستمهای فعلی هوش مصنوعی بر یادآوری مطلق تمرکز کردهاند، اما نبود قابلیت فراموشی انتخابی باعث «آلودگی زمینه» میشود. حل این مشکل برای مدیریت بهینه حافظه در مدلهای زاینده حیاتی…
بسیاری از ابزارهای نظارت بر هوش مصنوعی تنها بر معیارهای ظاهری مثل تأخیر تمرکز میکنند و خطاهای منطقی در کوئریها را نمیبینند. رویکرد جدید مبتنی بر مهندسی قابلیت اطمینان سایت…
استرایپ یک پلتفرم تخصصی هوش مصنوعی برای توسعهدهندگان ساخته است تا عاملهای هوشمند بتوانند دادههای پیچیده مالی را بدون خطا مدیریت کنند. تمرکز این سیستم بر تبدیل مستندات ایستا به…
پلتفرم Tenuo ابزار متنباز safe-upgrade را برای بهروزرسانی امن وابستگیها معرفی کرد. این سیستم با تفکیک «قضاوت» از «اختیار اجرا»، مانع از دسترسیهای غیرمجاز و خطاهای فاجعهبار…
کتابخانه متنباز Jevper با تبدیل پاسخهای متنی مدلهای زبانی به امتیازات اطمینان و احتمالات ساختاریافته، امکان طبقهبندی دقیق دادهها را فراهم میکند. این ابزار با پشتیبانی از…