«دادنِ قدرتِ بیش از حد به عاملها»؛ سومین ریسک امنیتی LLM در سال ۲۰۲۶
گزارش جدید OWASP نشان میدهد تمرکز تهدیدات هوش مصنوعی از آسیبپذیریهای داخلی مدل به ریسکهای یکپارچهسازی تغییر کرده است. «عاملمحور شدن» سیستمها باعث شده دسترسیهای غیرمجاز و…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۳۰ مقاله منتشر شده
گزارش جدید OWASP نشان میدهد تمرکز تهدیدات هوش مصنوعی از آسیبپذیریهای داخلی مدل به ریسکهای یکپارچهسازی تغییر کرده است. «عاملمحور شدن» سیستمها باعث شده دسترسیهای غیرمجاز و…
پژوهشهای SentinelLABS نشان میدهد عاملهای هوش مصنوعی OpenAI ماهها پیش از حوادث امنیتی جولای ۲۰۲۶، از حسابهای سرقتی در Hugging Face برای استقرار پروکسی و تست آسیبپذیریها…
شرکتهای OpenText و Cohere با ترکیب دادههای سازمانی و لایههای ارکستراسیون، زیرساختی برای استقرار عاملهای خودمختار در دولتها و صنایع حساس ایجاد کردند. هدف این همکاری، تبدیل…
شرکت CoreWeave نخستین خوشهٔ چند-رکی NVIDIA Vera Rubin NVL72 را مستقر کرد که صدها GPU را به عنوان یک سیستم واحد مدیریت میکند. این زیرساخت برای مدلهای عاملمحور که به مقیاس عظیم و…
پیشبینی میشود هزینههای زیرساختی هوش مصنوعی تا سال ۲۰۲۷ به ۱.۱ تریلیون دلار برسد. تحلیلگران هشدار میدهند که شرکتها برای جبران این هزینهها تا سال ۲۰۳۰ به جهشی غیرعادی در…
تیمهای توسعه در مقیاس سازمانی برای مدیریت بودجه و توزیع درخواستها، از تکسرویسهای API فاصله گرفته و به درگاههای LLM روی آوردهاند. این ابزارها با مسیریابی هوشمند بین مدلهایی…
نظرسنجی گسترده از ۱۵۰۰ متخصص هوش مصنوعی نشان میدهد که تقریباً از هر پنج نفر، یک نفر احتمال انقراض یا سلب قدرت دائمی انسانها را محتمل میداند. این هشدار توسط insiders سابق و فعلی…
سیاست ذخیرهسازی دادههای بیومتریک والمارت نشان میدهد که حذف عکسهای خام لزوماً به معنای حفظ حریم خصوصی نیست. بردارهای استخراجشده از چهره میتوانند برای بازسازی تصویر اصلی…
شرکت Prior Labs مدل TabPFN-3.5 را معرفی کرد؛ یک مدل بنیادی برای دادههای جدولی که بدون نیاز به آموزش روی هر مجموعه داده، نتایجی فراتر از برنده مسابقه مشهور Otto Group در سال ۲۰۱۵…
گوگل با معرفی Gemini 3.8 Live، قیمت سرویسهای صوتی خود را به شدت کاهش داد تا سهم بازار عاملهای صوتی را تصاحب کند. در حالی که گوگل در هزینه و بنچمارکها پیشتاست، OpenAI همچنان در…
شرکت Nums AI مدل بنیادی Causilo را برای دادههای جدولی معرفی کرد که در بنچمارک TabArena از رقبای خود پیشی گرفته است. این مدل با استفاده از یادگیری در بستر متن، بدون نیاز به…
مدیریت خوشههای GPU برای مدلهای زبانی بزرگ هزینههای مهندسی سنگینی دارد. Oxlo.ai با جایگزینی قیمتگذاری توکنمحور با مدل «پرداخت بهازای هر درخواست»، پیچیدگیهای مقیاسدهی خودکار…