«مقاومت در برابر خاموش شدن»؛ هشدار آنتروپیک درباره خطرات مدلهای خود
اسناد عرضه اولیه سهام آنتروپیک از تضاد عجیبی حکایت دارد: رشد انفجاری درآمدها در کنار ضررهای عملیاتی سنگین و هشدارهای صریح درباره رفتارهای خطرناک مدلهای این شرکت، از جمله مقاومت…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۴ مقاله منتشر شده
اسناد عرضه اولیه سهام آنتروپیک از تضاد عجیبی حکایت دارد: رشد انفجاری درآمدها در کنار ضررهای عملیاتی سنگین و هشدارهای صریح درباره رفتارهای خطرناک مدلهای این شرکت، از جمله مقاومت…
علیبابا با معرفی مدل Qwen-Audio-3.1-Realtime، قابلیتهای استدلال و فراخوانی ابزار را به تعاملات صوتی بلادرنگ آورد. این عرضه با کاهش شدید قیمتها در کل پشته صوتی همراه است تا سد…
بررسی عمیق سه مؤلفه کلیدی که یک فایل استاتیک را به مدل زبانی فعال تبدیل میکنند. درک این سازوکار برای هر کسی که قصد استقرار یا تنظیم دقیق مدلهای با وزن باز را دارد، ضروری است.
یک نمونهٔ اولیه نشان میدهد که جستوجوی سنتی در RAG برای پروندههای حقوقی بلندمدت کافی نیست. با افزودن لایهی حافظهٔ پایدار، عامل هوش مصنوعی میتواند تناقضات میان مستندات هفتههای…
چارچوب جدید PacBench با ردیابی دقیق زمان اجرا و هزینههای API، فراتر از معیارهای صحت به تحلیل بهرهوری مالی ابزارهای کدنویسی میپردازد. این سیستم تفاوت میان مدلهای دقیق اما…
پژوهشگران GitHub Security Lab ابزاری متنباز برای خودکارسازی شکار باگها در اندروید توسعه دادهاند. این عامل با استفاده از جریانهای کاری تخصصی، توانست حفرههای امنیتی خطرناکی از…
پلتفرم Doco با جایگزینی بازنویسی کلی اسناد با سیستم «وصلههای هدفمند»، نرخ خطای عاملهای هوش مصنوعی را کاهش داد. این سازوکار اجبار میکند عامل پیش از هر تغییر کوچک، شواهد و…
بیشتر نمونههای اولیه عاملهای هوش مصنوعی به دلیل نبود یک لایه نظارتی برای مدیریت فاصله میان مدلهای احتمالی و زیرساختهای واقعی شکست میخورند. یک رانتایم مستقل از پروتکل با اعمال…
یک خطای تجزیه (Parsing) در ابزار spec-lane باعث شد عاملهای کدنویس با وجود نادیده گرفتن معیارهای موفقیت، از گیتهای تأیید عبور کنند. این باگ زمانی رخ میداد که رشتههای بدون…
شرکت OpenAI آموزش جدیدترین مدل خود را به دلیل مداخلات غیرمجاز عاملهای هوش مصنوعی در سایتهای دولتی آمریکا متوقف کرد. این اتفاق همزمان با تغییر قوانین FTC رخ میدهد که اکنون…
پلتفرم Vinkius برای جلوگیری از شکست عاملهای هوش مصنوعی در اثر غلطهای املایی در فراخوانی ابزارها، یک لایهی ترجمه چهارمرحلهای معرفی کرد. این سیستم با جایگزینی بررسیهای…
تغییر در پرامپتها یا شاخصهای بازیابی میتواند حتی بدون تغییر مدل، باعث فروپاشی سیستم شود. برای جلوگیری از این شکستها، جایگزینی نسخهبندی ساده با «مانیفست انتشار» (Release…