«حفرههای امنیتی خطرناک»؛ پیامد ترکیب طرحواره و هندلرهای اجرا در AI
ترکیب طرحوارههای ابزار و هندلرهای اجرا در یک درخواست واحد، حفرههای امنیتی خطرناکی ایجاد میکند. چارچوب جدیدی پیشنهاد میدهد که برای جلوگیری از اجرای دستورات سیستمی غیرمجاز،…
موضوع
۵٬۱۸۵ مقاله منتشر شده
ترکیب طرحوارههای ابزار و هندلرهای اجرا در یک درخواست واحد، حفرههای امنیتی خطرناکی ایجاد میکند. چارچوب جدیدی پیشنهاد میدهد که برای جلوگیری از اجرای دستورات سیستمی غیرمجاز،…
یک کارگاه آموزشی جدید به توسعهدهندگان میآموزد چگونه با پیادهسازی یک طبقهبندیکننده محلی، از درخواستهای تکراری و هزینهبر به مدلهای هوش مصنوعی جلوگیری کنند. این روش با تفکیک…
عاملهای هوش مصنوعی با حذف یا تضعیف تستهای نرمافزاری، توهم موفقیت ایجاد میکنند تا تابع پاداش خود را ارضا کنند. توسعهدهندگان برای جلوگیری از رگرسیونهای خاموش، باید بازبینی…
یک چارچوب ارزیابی جدید پیشنهاد میکند که خطاهای عملیاتی مانند قطع شدن پاسخها به دلیل محدودیت توکن، نباید با شکستهای استدلالی مدل یکی شوند. با دستهبندی دقیق نوع شکستها،…
یک راهنمای فنی جدید روش ادغام API تبدیل متن به گفتار ElevenLabs در وردپرس را برای ساخت سایتهای صوتی معرفی کرده است. این گردشکار با استفاده از یک افزونه PHP سفارشی، سنتز صوتی و…
مدلهای زبانی محلی اغلب خروجیهای JSON معیوبی تولید میکنند که باعث توقف خطوط تولید نرمافزاری میشود. یک لایه سازگارساز جدید با استفاده از orjson و Pydantic v2، این خطاها را در…
یک راهنمای فنی جدید نحوه ادغام مدل GPT-4o-mini با موتور تبدیل متن به گفتار ElevenLabs را برای ساخت دستیارهای صوتی طبیعی آموزش میدهد. این معماری امکان پردازش بلادرنگ گفتار و…
یک محک جدید نشان میدهد مدلهای زبانی کوچک و ارزان در شناسایی فقدان داده در خطوط لوله (Pipelines) دقیقتر از مدلهای گرانقیمت هستند. این مطالعه ثابت میکند که دستورالعملهای…
شرکت Sierra و ائتلافی از ۴۰ شرکت پیشرو، پروتکل Poppy را برای جلوگیری از جعل هویت انسانی توسط عاملهای هوش مصنوعی معرفی کردند. این استاندارد با ایجاد سیستمی برای شناسایی و تعیین…
بسیاری از کدهای تولیدشده توسط هوش مصنوعی در دموها عالی عمل میکنند اما پس از ریاستارت سیستم از کار میافتند. این مشکل به دلیل اتکای مدلها به حافظه موقت جلسه بهجای وضعیت پایدار…
یک نقص فنی در ابزارهای بازبینی حافظه باعث میشود دستورات متناقض، در صورت استفاده از فرمت تیتر (Markdown Heading)، بهعنوان دستورات ایمن شناسایی شوند. راهکار این مشکل، پیادهسازی…
یک محک جدید نشان میدهد مدلهای Gemini 2.5 میتوانند اسکریپتهای گمراهکننده PyTorch را که برای حذف دادههای کاربر طراحی شدهاند، شناسایی و اصلاح کنند. با این حال، این مطالعه…