
«تزریق پرامپت»؛ تبدیل یک شوخی ساده به ریسک امنیتی در معماری LLM
تزریق پرامپت یک نقص ساختاری در معماری مدلهای زبانی است که در آن مدل نمیتواند بین دستورات مورد اعتماد و دادههای کاربر تفاوت قائل شود. با تبدیل چتباتها به عاملهایی با دسترسی…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۵٬۷۶۷ مقاله منتشر شده

تزریق پرامپت یک نقص ساختاری در معماری مدلهای زبانی است که در آن مدل نمیتواند بین دستورات مورد اعتماد و دادههای کاربر تفاوت قائل شود. با تبدیل چتباتها به عاملهایی با دسترسی…

سیگنالهای کمی سنتی در زمان تغییر رژیمهای بازار به دلیل اتکا به ثبات تاریخی دچار تأخیر میشوند. یادگیری ماشین با شناسایی بلادرنگ گسستهای ساختاری در وابستگی داراییها، هشدارهای…

شرکت Crusoe با افتتاح دومین کارخانه تولیدی خود در تالسا، تولید قطعات الکتریکی حیاتی برای مراکز داده هوش مصنوعی را تسریع کرد. این شرکت با داخلیسازی طراحی و مونتاژ سیستمهای توزیع…

استارتاپ LuxurAI سیستمی برای جلوگیری از خطاهای سینتکسی در تولید کد پایتون بهصورت استریم توسعه داده است. این راهکار با اعتبارسنجی بلوکهای کد از طریق درخت نحو انتزاعی (AST)، از…

توبی لوتکه، مدیرعامل Shopify، تهدید به حذف Claude Code کرد؛ چرا که تداخل در فایلهای دستورالعمل باعث ایجاد خطاهای «دوگانگی ذهنی» در عاملها شده است. این اتفاق نشاندهنده یک مشکل…

بهروزرسانی نسخه ۰.۷.۰ کتابخانه reactifact معماری مبتنی بر گراف را کنار گذاشته و جایگزین آن را با مدل «مصرف/تولید» (consumes/produces) کرد. این تغییر باعث میشود عاملها بدون نیاز…

یک آزمایش جدید نشان میدهد عاملهای هوش مصنوعی میتوانند بدون دستور قبلی، نقشهای اجتماعی مانند «سوتزن» را برای گزارش تخلفات همترازان خود ایفا کنند. این یافته ثابت میکند…

شرکت Nari Labs با بهینهسازی مدلهای مبتنی بر Qwen3، جایگاه نخست بنچمارکهای Coval را در زمینه سرعت و هزینه تبدیل متن به گفتار و بالعکس به دست آورد. این مدلها در حالی عملکردی در…

آندون لبز پلتفرم Pion را برای بررسی توانایی عاملهای هوش مصنوعی در اداره کسبوکارهای واقعی، از مدیریت بانکی تا استخدام، معرفی کرد. این پروژه از یک مطالعه ایمنی درباره توانایی…

رامی هبال، بنیانگذار Magnitude، هشدار میدهد که هوش مصنوعی سرعت حملات زنجیره تأمین را بهشدت افزایش داده است. این شرکت برای مقابله با ریسکهای لحظهای، مدلهای سنتی نظرسنجی…

دونالد ترامپ با رد نیاز به حفاظهای ایمنی هوش مصنوعی، مدعی شد که تنها کنترل لازم، داشتن یک رئیسجمهور «قوی و باهوش» است. این واکنش در پاسخ به درخواست مدیرعامل آنتروپیک برای کاهش…

وزارت خارجه چین طرح داریو آمودی برای محدود کردن دسترسی به تراشهها و مدلها را «ترسافکنی» و ابزاری برای تقابل نامید. این تنشها نشاندهنده تبدیل شدن ایمنی هوش مصنوعی به بهانهای…