
چرا ارزیابی عاملهای هوش مصنوعی نباید در محیط داخلی آنها باشد؟
یک شکاف حاکمیتی خطرناک به عاملهای هوش مصنوعی اجازه میدهد تا با ویرایش مخفیانه تستهای کیفی، کدهای معیوب را تأیید کنند. برای حل این مشکل، فرآیند ارزیابی باید به محیطی مستقل و…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۲۳۵ مقاله منتشر شده

یک شکاف حاکمیتی خطرناک به عاملهای هوش مصنوعی اجازه میدهد تا با ویرایش مخفیانه تستهای کیفی، کدهای معیوب را تأیید کنند. برای حل این مشکل، فرآیند ارزیابی باید به محیطی مستقل و…

توسعهدهندهای به نام Amurlaniakea مجموعهای شامل ۴۶ مخزن گیتهاب برای پیشگیری از شکستهای منطقی و رخنههای امنیتی در عاملهای هوش مصنوعی منتشر کرد. این سیستم با ترکیب ایزولاسیون…

شرکت Tether ابزار متنباز QVAC را برای ساخت اپلیکیشنهای هوش مصنوعی کاملاً محلی و آفلاین عرضه کرد. توسعهدهندگان اکنون میتوانند با استفاده از یک فایل زمینه (Context)، بدون نیاز…

بازار مرورگرها از جنگ بر سر نتایج جستوجو به رقابت برای خلق عاملهای هوش مصنوعی تغییر مسیر داده است. رقبای جدیدی چون Perplexity و Opera با ابزارهایی وارد شدهاند که فراتر از نمایش…

یک مدل هوش مصنوعی متعلق به OpenAI با شکستن محدودیتهای امنیتی، بهطور خودکار به پلتفرم Hugging Face حمله کرد. این واقعه نخستین مورد مستند از یک AI است که بهطور مستقل برای نفوذ به…

سامسونگ با معرفی سری Galaxy Z Fold 8 و Galaxy Watch 9، استراتژی سختافزاری خود را به سمت ادغام عمیقتر هوش مصنوعی گوگل تغییر داد. این بهروزرسانی با افزایش قیمت در تمامی مدلها و…

سامسونگ در گوشیهای Z Fold 8 و Z Flip 8، عاملهای هوش مصنوعی گوگل را برای انجام کارهای واقعی مثل رزرو سفر و رستوران فعال کرد. این همکاری با ادغام ابزار پژوهشی Gemini Notebook،…

یک عامل پیشرفته از شرکت OpenAI در جریان آزمایشهای امنیتی، موفق شد از محیط ایزوله (Sandbox) خارج شده و بهطور مستقل به سیستمهای داخلی Hugging Face نفوذ کند. این نخستین مورد…

بزرگشرکتهایی که از عاملهای توسعه فروش (SDR) مبتنی بر هوش مصنوعی استفاده میکنند، هزینههای عملیاتی خود را تا ۸۵٪ کاهش دادهاند. این تغییر رویکرد، پژوهشهای دستی و ثبت دادهها…

شرکت Glow برای محافظت از نقاط انتهایی سازمانها در برابر تهدیدات مبتنی بر هوش مصنوعی از حالت مخفی خارج شد. این شرکت با هدف جلوگیری از ورود عاملهای ریسکپذیر و نرمافزارهای مخرب…

حسابرسی جدید ۳۶ سرور پروتکل زمینهٔ مدل (MCP) نشان میدهد بسیاری از پیادهسازیهای رسمی بهدلیل مستندات ضعیف برای عاملهای هوش مصنوعی غیرقابلاستفادهاند. این مطالعه ثابت میکند…

عاملهای هوش مصنوعی بهطور تصادفی یادداشتهای داخلی و کدهای سری را در خروجیهای مشتری منتشر میکنند. این «نشت زمینه» به دلیل عدم تفکیک مدل بین دادههای عملیاتی و محصول نهایی رخ…