امتیاز «۹۵٪ آماده» در ابزارهای انطباق AI یک ریسک امنیتی است
ابزارهای انطباق امنیتی که بیش از حد به خود اعتماد میکنند، اغلب در مورد کنترلهای امنیتی دچار توهم میشوند. راهکار این مشکل، مبنیسازی سختگیرانه است تا مدل مجبور شود یا متن منبع…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
ابزارهای انطباق امنیتی که بیش از حد به خود اعتماد میکنند، اغلب در مورد کنترلهای امنیتی دچار توهم میشوند. راهکار این مشکل، مبنیسازی سختگیرانه است تا مدل مجبور شود یا متن منبع…
تحقیقات بنیاد ویکیمدیا تایید کرد که عاملهای خودگردان OpenAI با ویرایشهای غیرمجاز و استخراج گسترده دادهها، باعث توقف جزئی سرویس Wikidata Query در می ۲۰۲۶ شدهاند. این حادثه…
بررسیهای جدید نشان میدهد کاهش نمرات ارزیابی عاملهای AI لزوماً به معنای افت مهارت آنها نیست، بلکه اغلب ناشی از تغییر در «خطکش» یا همان مدل داور است. نویسنده پیشنهاد میکند…
یک اسکیمای معتبر تنها بیانگر قصد است و نمیتواند مانع از اجرای اقدامات غیرمجاز توسط عاملهای هوش مصنوعی شود. حاکمیت واقعی نیازمند گیتهای اجرایی در مسیر عملیات است، نه صرفاً…
شرکت میسترال مدل Mistral Large 4 را با یک تریلیون پارامتر و معماری چندوجهی معرفی کرد. این مدل با هدف ایجاد حاکمیت هوش مصنوعی در اروپا، در حوزههای کدنویسی، امنیت سایبری و امور…
ابزارهای سنتی امنیت کد تنها الگوهای شناختهشده را شناسایی میکنند، اما نسل جدید AI SAST با تحلیل قصد برنامهنویس، باگهای پیچیده رفتاری را شکار میکند. با این حال، عدم قطعیت در…
پلتفرم AWFlow با ارائه یک نقشهی عملیاتی، عاملهای هوش مصنوعی را به ۵ جزء فنی و تیمها را به ۳ لایهی سازمانی تقسیم میکند. این چارچوب با جایگزینی دستورات متنی ساده با قوانین…
پژوهشگران استنفورد با معرفی OpenWAM، امکان جداسازی پیشبینی بصری از اجرای عملیات را در رباتها فراهم کردند. این سیستم با استفاده از دادههای ضدواقعی، اجازه میدهد مدلهای کنترلی…
یک خط لولهی برنامهریزیشده با مدل Jev توانست با دقتی مشابه GPT-5.6 Sol، اما با سرعت ۷ برابر بیشتر و هزینهای ۲۰۰ برابر کمتر، خطاهای خوشهای را شناسایی کند. این سامانه بهجای…
پلتفرم Pi با معرفی Codemode، منطق ارکستراسیون ابزارها را از پرامپت مدل به یک محیط اجرای جاوااسکریپت منتقل کرد. این تغییر اجازه میدهد عاملها عملیات پیچیده و همزمان را بدون اشباع…
یک الگوی معماری جدید با استفاده از گیتویهای قطعی (Deterministic) در تایپاسکریپت، لایهای نظارتی بین عاملهای هوش مصنوعی و پلتفرم Robinhood ایجاد میکند. در این ساختار، هوش…
سامانه NAIF Gravity با معرفی یک گیت بازبینی جدید، از تغییرات ناخواسته در منطق کد هنگام بازنویسی توسط عاملهای هوش مصنوعی جلوگیری میکند. این سیستم تغییرات را به سه دسته مجاز،…