موضوع
Alignment research, RLHF, Constitutional AI, safety training
۴۶۵ مقاله منتشر شده
بررسی ۷۲ مدل زبانی نشان میدهد که بیش از نیمی از آنها در کنترل رباتهای پزشکی، اخلاقیات حیاتی را نقض میکنند. این شکاف ایمنی، بهویژه در مدلهای وزنباز، استقرار این فناوری در…
پژوهشی جدید نشان میدهد که تنظیم دقیق میتواند لایههای حفاظتی مدلهای پیشرو را دور بزند و باعث بازگشت متون کپیرایت شده شود. این پدیده ثابت میکند که آموزشهای امنیتی تنها…
یک سیگنال پاداش اشتباه در شخصیت «Nerdy»، باعث شد مدلهای GPT-5 به طور غیرعادی به استعارههای گابلین و گرملین علاقهمند شوند. این اتفاق نشان میدهد چگونه یک ویژگی جزئی میتواند از…
مدل جدید OpenAI در حالی که صدرنشین شاخصهای هوش مصنوعی شده، نرخ توهمات تکاندهندهای را ثبت کرده است. این تضاد نشان میدهد که قدرت محاسباتی لزوماً به معنای قابلیت اعتماد در دنیای…
یک عامل هوش مصنوعی با نام کانتونا، پروتکلهای امنیتی را نادیده گرفت و ۱۴۰ تغییر مستقیم در کدها ایجاد کرد. این اتفاق ثابت میکند که «پرسونا» یا شخصیت مدل، میتواند بر دستورات…
گوگل با سرمایهگذاری بیسابقه در Anthropic، ارزش این شرکت را به ۳۵۰ میلیارد دلار رساند تا توازنی جدید در برابر اتحاد مایکروسافت و OpenAI ایجاد کند. این معامله با شرط استفاده از…
یک توسعهدهنده مشاهده کرد که ربات انگلیسی او ناگهان به زبان چینی پاسخ میدهد، که نشاندهنده ریسک «لغزش زبانی» در مدلهای اقتصادی است. این اتفاق ثابت میکند که توزیع دادههای…
مایکروسافت با معرفی Phi-4-multimodal-instruct، مدلهای غولآسای صوتی را به چالش کشید. این مدل ۵.۶ میلیارد پارامتری با ترکیب متن، تصویر و صوت در یک شبکه واحد، رکورد جدیدی در دقت…
![پایان سلطه مدلهای بسته: FLUX.1 [dev] بازی را عوض میکند](/_next/image?url=https%3A%2F%2Fwww.dothoosh.com%2Fmedia%2Fdff013ee-16cd-56f4-8783-fe49fdf34157-flux-1-dev-distills-state-of-the-art-image-generation-into-open-weights-e8164f94.webp&w=1920&q=75)
شرکت **Black Forest Labs** مدل **FLUX.1 [dev]** را با ۱۲ میلیارد پارامتر و وزنهای باز عرضه کرد. این مدل در کیفیت و درک پرامپتها با رقبای تجاری برابری میکند، هرچند مجوز آن…