پرش به محتوای اصلی

موضوع

عامل‌محور

Autonomous agents, tool use, planning, multi-step workflows

۶٬۲۲۵ مقاله منتشر شده

هفت نشانه بیش‌مهندسی اپلیکیشن هوش مصنوعی و راه‌های جلوگیری از آن
آموزش کاربردی

۷ نشانهٔ مهندسی بیش‌ازحد در توسعهٔ اپلیکیشن‌های هوش مصنوعی

بسیاری از توسعه‌دهندگان پیش از حل مسئلهٔ اصلی، معماری‌های پیچیده‌ای از پایگاه‌داده‌های برداری و گراف‌های چندعاملی می‌سازند. این راهنما تله‌های رایج مهندسی بیش‌ازحد را شناسایی کرده…

۹ دقیقه خواندن۱
نمودار: مدل شش‌لایه حاکمیت FROST برای عامل‌های هوش مصنوعی
آموزش کاربردی

مدل FROST: چارچوب ۶ لایه‌ای برای مهار توهم در عامل‌های هوشمند

مدل حاکمیتی FROST با معرفی یک «قانون اساسی» شش‌لایه، مانع از انحراف هدف و جعل داده در عامل‌های هوشمند می‌شود. این سیستم با جداسازی مدیریت از حاکمیت، تضمین می‌کند که عامل‌ها در…

۱۶ دقیقه خواندن
مصاحبه با ۲۰ مهندس هوش مصنوعی: نگرانی مشترک آنها چیست؟

«طراحی سیستمی به جای تعویض مدل»؛ کلید موفقیت عامل‌های هوشمند

مصاحبه با ۲۰ مهندس هوش مصنوعی نشان می‌دهد که اکثر استقرار‌های عامل‌محور به‌دلیل اشتباه در تعریف «عامل» و تکیه بر تعویض مدل به‌جای طراحی سیستمی شکست می‌خورند. تفاوت میان یک رابط چت…

۵ دقیقه خواندن۲
ایمنی استفاده ابزار LLM: دادن ابزار به عامل‌ها بدون دادن کلیدها
آموزش کاربردی

تزریق پرامپت؛ نقص ساختاری معماری مدل‌های زبانی که با فیلترها حل نمی‌شود

تزریق پرامپت یک خطای رفتاری نیست، بلکه نقصی بنیادین در معماری مدل‌های زبانی بزرگ است. امنیت واقعی نیازمند انتقال مدیریت دسترسی‌ها از لایه مدل به کد برنامه‌نویسی اپلیکیشن است.

۴ دقیقه خواندن۲
استارتاپ عامل کدنویسی با ارزش ۴۰ میلیارد دلار: رازش در شماره‌ای غیر از ارزش‌گذاری است
اخبار کوتاه روزانهگزارش تأییدنشده

درآمد ۱ میلیارد دلاری Cognition ارزش این استارتاپ را به ۴۰ میلیارد دلار رساند

شرکت Cognition سازنده عامل برنامه‌نویس Devin با تکیه بر رشد انفجاری درآمد، به دنبال ارزش‌گذاری ۴۰ میلیارد دلاری است. این جهش نشان‌دهنده چرخش بازار از رابط‌های ساده به سمت…

۳ دقیقه خواندن۱
مدل‌های پیشرو ۳ تا ۱۵ درصد در بازیابی ایده‌های پژوهشی از فهرست منابع موفقند. ارزش دانستن دارد.

آیا مدل‌های پیشرو توانایی استخراج ایده‌های نو از مراجع پژوهشی را دارند؟

یک محک جدید نشان می‌دهد مدل‌های پیشرو هوش مصنوعی در استخراج ایده‌های پژوهشی از کتاب‌شناسی‌ها به‌شدت ناتوان‌اند. حتی با استفاده از سامانه‌های چندعاملی، نرخ موفقیت به ۴۲٪ می‌رسد که…

۳ دقیقه خواندن۲
اجازه دادم هوش مصنوعی شبکه‌ام را مدیریت کند، اما باید ابتدا اجازه بگیرد
آموزش کاربردی

«بسته‌شدن در صورت خطا»؛ راهکار AXIOM برای مهار تصمیمات یک‌جانبهٔ AI

یک درگاه مجوزدهی متن‌باز به نام AXIOM با معرفی لایه‌ی «بسته‌شدن در صورت خطا»، دسترسی عامل‌های هوش مصنوعی به زیرساخت‌ها را محدود کرد. این سامانه برای هر تغییر مخرب در سرورها یا…

۵ دقیقه خواندن۲