پرش به محتوای اصلی

موضوع

بازتولیدپذیری هوش مصنوعی

گزارش‌ها و تحلیل‌های مربوط به توانایی تکرار و تأیید نتایج پژوهش‌های هوش مصنوعی

۳۳۹ مقاله منتشر شده

آموزش کاربردی

متدولوژی Tryout Plate توهمات عامل‌های هوش مصنوعی را در کدنویسی حذف کرد

شرکت MonkeyCode با معرفی روش «صفحه آزمون»، اجرای عامل‌های هوش مصنوعی را از تأیید محلی جدا کرد. این سیستم با الزام به اعتبارسنجی مستقل نتایج، مانع از آن می‌شود که مدل‌ها درباره…

۸ دقیقه خواندن
آموزش کاربردی

لایهٔ قطعیت؛ استراتژی استک اورفلو برای حذف پیش‌بینی‌ناپذیری عامل‌های هوش مصنوعی

استک اورفلو با معرفی «لایهٔ قطعیت»، معماری عامل‌های هوش مصنوعی را از حلقه‌های خودمختار و غیرقابل‌پیش‌بینی به گراف‌های ثابت تغییر می‌دهد. در این مدل، مدل‌های زبانی تنها پیشنهاد…

۱۲ دقیقه خواندن

«آبشارهای اطلاعاتی»؛ ریشهٔ پذیرشِ نتایجِ غلط توسط عامل‌های هوش مصنوعی

پژوهشی جدید نشان می‌دهد سامانه‌های چندعاملی دچار «آبشارهای اطلاعاتی» می‌شوند؛ وضعیتی که در آن عامل‌ها برای همسویی با اشتباهات اولیه، شواهد صحیح خود را کنار می‌گذارند. این اثر…

۷ دقیقه خواندن

شکاف معنایی در Lean؛ چرا تایید رسمی ریاضیاتِ هوش مصنوعی کافی نیست؟

یک تحلیل فنی جدید نشان می‌دهد که تبدیل استدلال‌های ریاضی از زبان طبیعی به کد Lean لزوماً به معنای صحت آن‌ها نیست. این مطالعه به‌طور خاص ادعای OpenAI درباره حل معادلات ناویر-استوکس…

۲ دقیقه خواندن۱
آموزش کاربردی

«تغییر خط‌کش ارزیابی»؛ علت اصلی نوسان امتیازات مدل‌های هوشمند

بررسی‌های جدید نشان می‌دهد کاهش نمرات ارزیابی عامل‌های AI لزوماً به معنای افت مهارت آن‌ها نیست، بلکه اغلب ناشی از تغییر در «خط‌کش» یا همان مدل داور است. نویسنده پیشنهاد می‌کند…

۸ دقیقه خواندن۱

«جلوگیری از رفتارهای پیش‌بینی‌نشده» هدف جدید پلتفرم امنیتی آناکوندا

شرکت آناکوندا با ترکیب دسته‌های عامل‌های هوش مصنوعی و سیستم‌های تست امنیتی خودکار، راهکاری برای مدیریت ریسک در محیط‌های سازمانی ارائه داد. این پلتفرم با هدف جلوگیری از رفتارهای…

۵ دقیقه خواندن
آموزش کاربردی

بررسی وضعیت واقعی سیستم در برابر گزارش‌های متنی عامل‌های AI

یک مهندس QA مجموعه‌ای از ۲۰ ابزار محلی را برای اعتبارسنجی ادعاهای عامل‌های کدنویس مانند Devin توسعه داده است. این سیستم به‌جای اعتماد به گزارش‌های متنی عامل، وضعیت واقعی دیسک و…

۴ دقیقه خواندن۲

گوگل در برابر OpenAI و Anthropic؛ شکاف ایمنی در عامل‌های هوشمند

محک جدید Fan-Out نشان می‌دهد مدل‌های گوگل در اجرای هم‌زمان چندین ابزار بدون ایجاد تداخل داده‌ای، از رقبای خود پیش بوده‌اند. این نتایج شکافی جدی در ایمنی عامل‌های هوشمند OpenAI و…

۳ دقیقه خواندن
آموزش کاربردی

ConstraintBench: پاسخ‌های درست هوش مصنوعی لزوماً جریان‌های کاری را نجات نمی‌دهند

یک محک قطعی جدید نشان می‌دهد که مدل‌های استدلالی پیشرفته هنگام افزایش پیچیدگی پرامپت، در رعایت محدودیت‌های قالب‌بندی و ایمنی شکست می‌خورند. این یافته‌ها ثابت می‌کند که «صحت پاسخ»…

۸ دقیقه خواندن