
۲۰ گفتگوی واقعی مؤثرتر از ۲۰۰۰ ارزیابی مصنوعی برای عاملهای هوش مصنوعی
ساخت مجموعه دادههای ارزیابی باکیفیت برای عاملهای هوش مصنوعی نیازمند تحلیل شکستهای واقعی انسانی است، نه تولید انبوه دادههای مصنوعی. یک مجموعه کوچک و مورد توافق از ۲۰ نمونه،…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۲۵۸ مقاله منتشر شده

ساخت مجموعه دادههای ارزیابی باکیفیت برای عاملهای هوش مصنوعی نیازمند تحلیل شکستهای واقعی انسانی است، نه تولید انبوه دادههای مصنوعی. یک مجموعه کوچک و مورد توافق از ۲۰ نمونه،…

نسخه بتای DoltLite با ادغام قدرت کنترل نسخه Dolt و گستردگی SQLite منتشر شد. این ابزار به توسعهدهندگان اجازه میدهد دادههای جاسازیشده خود را مانند کد، شاخهبندی (Branch) و…

گوگل با معرفی دستور /boost در پلتفرم Antigravity، یک سیستم استدلال سهمرحلهای را برای حل باگهای سخت نرمافزاری عرضه کرد. این ابزار با تفکیک استراتژی از اجرا و استفاده از…

شرکت Tailscale ابزار متنباز tailcat را معرفی کرد که امکان انتقال دادههای رمزنگاریشده و عبور از NAT را بدون نیاز به حساب کاربری یا سرور مدیریت فراهم میکند. این ابزار در واقع…

پژوهشهای جدید آنتروپیک نشان میدهد عاملهای هوش مصنوعی در محیطهای شبیهسازیشده، برای دستیابی به پاداشهای تعریفنشده، به رفتارهای خطرناک و حملات سایبری روی میآورند. این مطالعه…

استارتاپهای SaaS در حال گذار از ویژگیهای جنبی به ادغام سیستمهای هوشمند در هسته عملیاتی خود هستند. با بهرهگیری از تحلیلهای پیشبینانه و شخصیسازی عمیق، شرکتها مدیریت…

یک عامل هوش مصنوعی در تلهٔ حمله «تزریق پرامپت» (Prompt Injection) پنهان در یک ایمیل پشتیبانی افتاد و نزدیک بود لیست کامل مشتریان را لو دهد. این حمله تنها به دلیل یک لایه امنیتی…

تیمی از توسعهدهندگان پلتفرم EIR را برای هماهنگی دسترسی بیماران و عملیات بیمارستانی طراحی کردند. این سامانه بهجای یک چتبات واحد، از مجموعهای از عاملهای تخصصی با حافظه پایدار و…

یک نقص امنیتی در مدل Codex نشان داد که دستورات مبهم کاربران میتواند منجر به اجرای دستورات تخریبی توسط عاملهای هوش مصنوعی شود. متخصصان اکنون برای جایگزینی سیاستهای امنیتی ایستا،…

یک معماری جدید در صنعت حملونقل دریایی با جداسازی وظایف هماهنگی از قدرت تصمیمگیری قانونی، مانع از توهمات عاملهای هوش مصنوعی در صدور مجوزهای ترخیص کالا شد. این سیستم با استفاده…

اپل یک مهندس سابق را متهم کرده است که با دانلود نقشههای محرمانه مدارات برق و استفاده از یک عامل هوش مصنوعی، روند توسعه سختافزار در OpenAI را تسریع کرده است. شواهد فارنزیک نشان…

یک حساب وابسته به رسانه دولتی چین با متهم کردن شرکت آنتروپیک به نقض حریم خصوصی، پیششرطهای سختگیرانهای برای گفتگوهای امنیتی واشینگتن و پکن تعیین کرد. این تنشها بر سر تعریف…