پرش به محتوای اصلی

موضوع

تأیید صوری

۱۱۷ مقاله منتشر شده

مدل داخلی OpenAI ۳۷۲ مسئلهٔ دشوار ریاضی و علوم کامپیوتر را حل کرد

یک مدل داخلی OpenAI با حل ۳۷۲ مسئلهٔ باز در ریاضیات و علوم کامپیوتر، از جمله حدس بازی‌های منحصربه‌فرد، مرزهای اکتشاف علمی را جابه‌جا کرد. بسیاری از این اثبات‌ها به دلیل پیچیدگی…

۱۱ دقیقه خواندن

شکاف معنایی در Lean؛ چرا تایید رسمی ریاضیاتِ هوش مصنوعی کافی نیست؟

یک تحلیل فنی جدید نشان می‌دهد که تبدیل استدلال‌های ریاضی از زبان طبیعی به کد Lean لزوماً به معنای صحت آن‌ها نیست. این مطالعه به‌طور خاص ادعای OpenAI درباره حل معادلات ناویر-استوکس…

۲ دقیقه خواندن۱
آموزش کاربردی

دیوار آتش NAIF تغییرات پنهان در بازنویسی کد توسط هوش مصنوعی را شناسایی می‌کند

سامانه NAIF Gravity با معرفی یک گیت بازبینی جدید، از تغییرات ناخواسته در منطق کد هنگام بازنویسی توسط عامل‌های هوش مصنوعی جلوگیری می‌کند. این سیستم تغییرات را به سه دسته مجاز،…

۳ دقیقه خواندن۲
آموزش کاربردی

رسیدهای «تأییدشده» در عامل‌های هوش مصنوعی ممکن است توخالی باشند

یک حسابرسی فنی نشان می‌دهد که خط لوله‌های اعتبارسنجی در عامل‌های هوش مصنوعی اغلب بدون اجرای هیچ بررسی واقعی، گزارش موفقیت صادر می‌کنند. این مطالعه ثابت می‌کند که متدهای متداول…

۶ دقیقه خواندن
آموزش کاربردی

تحلیل فنی: نقص معماری کلیدها امنیت رسیدهای AI را به صفر رساند

یک تحلیل فنی نشان می‌دهد اکثر سیستم‌های تأیید عامل‌های هوش مصنوعی به دلیل نقص در معماری کلیدها، به‌راحتی قابل جعل هستند. راهکار این مشکل، انتقال کلید امضا به یک اوراکل خارجی است…

۳ دقیقه خواندن۱
سرگرمی و خلاقیت

موتور قوانین سرورمحور در برابر توهمات مدل‌های زبانی در مدیریت بازی

برایان ویلیامز با طراحی یک سیستم «دیوار آتش روایت»، قدرت تصمیم‌گیری مکانیکی را از هوش مصنوعی در بازی Tales of Munin گرفت. در این ساختار، مدل زبانی تنها یک راوی است و تمام نتایج…

۱۳ دقیقه خواندن

«تضمین حریم خصوصی»؛ دستاورد جدید گوگل در آموزش مدل‌های Gboard

گوگل با انتقال محاسبات گرادیان در یادگیری فدرال به محیط‌های TEE، امکان بازرسی خارجی تضمین‌های حریم خصوصی را فراهم کرد. این معماری جدید باعث افزایش دقت و سرعت آموزش مدل‌های…

۵ دقیقه خواندن۱
آموزش کاربردی

تست جهش در AliceLabs ۴۰ مورد از ۴۶ نقص امنیتی نسخه ۱.۷.۰ را شناسایی کرد

شرکت AliceLabs با معرفی نسخه ۱.۷.۰، مکانیزم‌های نمونه‌برداری خصمانه و تست جهش مکانیکی را برای ارتقای امنیت زیرساخت‌های خود به کار گرفت. این به‌روزرسانی ثابت می‌کند که بررسی‌های…

۴ دقیقه خواندن۱
آموزش کاربردی

زبان Vx: شناسایی خطاهای حافظه در مرحله کامپایل برای سخت‌افزارهای ناهمگن

زبان جدید Vx با ادغام مکان‌های حافظه سخت‌افزاری در سیستم تایپ خود، مرزهای بین CPU، GPU و NPU را به عنوان تایپ‌های معنایی تعریف می‌کند. این رویکرد باعث می‌شود خطاهای حافظه پیش از…

۴ دقیقه خواندن
آموزش کاربردی

«موفق اما غیرمجاز»؛ شکاف امنیتی در داشبوردهای عامل‌های هوش مصنوعی

یک وضعیت «موفق» در داشبورد عامل‌های هوش مصنوعی تضمین نمی‌کند که عملیات دقیقاً طبق مجوز کاربر اجرا شده باشد. سامانه PriorSeal با تفکیک نتیجه فنی از انطباق با مجوز، راهکاری برای…

۳ دقیقه خواندن
آموزش کاربردی

ترکیب منطق نمادین و شبکه‌های عصبی ایمنی پروازهای شهری را تضمین کرد

یک معماری هیبریدی جدید با ترکیب شبکه‌های عصبی برای پیشنهاد مسیر و تأییدکننده‌های نمادین، ایمنی絶対 در جابه‌جایی‌های هوایی شهری را تضمین می‌کند. این سامانه با افزودن لایه حاکمیت…

۱۰ دقیقه خواندن
آموزش کاربردی

محک VASB دروغ‌های عامل‌های هوش مصنوعی دربارهٔ تکمیل وظایف را افشا کرد

یک محک جدید به نام VASB نشان می‌دهد که عامل‌های هوش مصنوعی اغلب بدون تغییر واقعی در سیستم، گزارش موفقیت می‌دهند. این ابزار ارزیابی را از اعتماد به گزارش‌های مدل به بررسی شواهد…

۵ دقیقه خواندن۱