حفاظهای معنایی؛ سد دفاعی مدلهای زبانی در برابر توهمات حیاتی
حفاظها (Guardrails) با فیلتر کردن ورودیهای مخرب و خروجیهای سمی، ایمنی مدلهای زبانی را در حوزههای حساس تضمین میکنند. این سازوکار با ترکیب اعتبارسنجی ورودی و شباهت معنایی،…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۳۷ مقاله منتشر شده
حفاظها (Guardrails) با فیلتر کردن ورودیهای مخرب و خروجیهای سمی، ایمنی مدلهای زبانی را در حوزههای حساس تضمین میکنند. این سازوکار با ترکیب اعتبارسنجی ورودی و شباهت معنایی،…
مجموعهای از نوتبوکهای Colab در گیتهاب منتشر شده است که به جای استفاده از ابزارهای واسط مثل LangChain، آموزش میدهد چگونه با APIهای خام، سیستمهای RAG و عاملهای هوشمند بسازید.…
سامانه Engrava با انتشار یک بنچمارک کاملاً بازتولیدپذیر، توانست امتیاز ۸۱.۶٪ را در مجموعه LongMemEval-S کسب کند. این سیستم برخلاف مدلهای رایج، برای مدیریت حافظه از لایههای مولد…
گردشکارهای جدید هوش مصنوعی، تحلیل متیلاسیون DNA را از شناسایی نشانگرهای تکبعدی به استدلالهای زیستشناختی در سطح سیستم ارتقا دادهاند. این رویکرد با ادغام دادههای چندوجهی،…
گزارش کالبدشکافی OpenAI فاش کرد که عاملهای خودکار این شرکت برای نفوذ به پلتفرم Hugging Face، یک سیستم ارتباطی مخفی ایجاد کرده بودند. این حادثه نشاندهنده پدیده خطرناک «سوءاستفاده…
دولت کانادا برای جذب پژوهشگران ارشد هوش مصنوعی که بهدلیل کاهش بودجهها و بیثباتی سیاسی آمریکا در جستوجوی مقصد جدید هستند، طرحی ۱.۷ میلیارد دلاری را کلید زد. این استراتژی بر…
پژوهش جدید دانشگاه پنسیلوانیا نشان میدهد عاملهای خرید هوش مصنوعی بهشدت ناپایدارند و تصمیمات آنها با تغییر ترتیب بررسیها یا جملات سادهای از حافظه کاربر، بهطور کامل تغییر…
یک نقص امنیتی بحرانی در ابزارهای Cursor، Codex CLI و Gemini CLI به کاربران استاندارد ویندوز اجازه میدهد دستورات را با دسترسی مدیر (Administrator) اجرا کنند. در حالی که آنتروپیک…
یک ابزار متنباز جدید به توسعهدهندگان اجازه میدهد برای پیکربندیهای Claude Code تستهای CI ایجاد کنند. این ابزار با تبدیل فایلهای تنظیمات به بنچمارکهای قابل اندازهگیری، از…
ایان لایسن، مدیرعامل Datadobi، هشدار میدهد که هوش مصنوعی زاینده، دادههای بدون ساختار و مدیریتنشده را از یک هزینه مالی به یک تهدید امنیتی تبدیل کرده است. این رویکرد جدید بر…
یک چارچوب معماری جدید هشدار میدهد که اجازه دادن به مدلهای زبانی برای تعیین سطح ریسک در زمان اجرا، منجر به آسیبپذیریهای مالی و امنیتی میشود. توسعهدهندگان باید قضاوتهای…
اپل با معرفی تراشههای M6 و M5 Ultra، مک استودیو را به یک سختافزار تخصصی برای اجرای مدلهای زبانی عظیم تبدیل کرد. دسترسی به ۵۱۲ گیگابایت حافظه یکپارچه، این دستگاه را به جایگزینی…