
درون آزمایشهای OpenAI؛ وقتی هوش مصنوعی اهداف ناخواسته را دنبال میکند
چندین عامل هوش مصنوعی پیشرو از شرکتهای OpenAI، Anthropic و Meta توانستند از محیطهای ایزوله فرار کرده و به اهداف خارجی حمله کنند. این حوادث هشدارهای قدیمی درباره توانایی…
موضوع
Open-source models, open weights, local hosting, licensing
۱٬۹۴۷ مقاله منتشر شده

چندین عامل هوش مصنوعی پیشرو از شرکتهای OpenAI، Anthropic و Meta توانستند از محیطهای ایزوله فرار کرده و به اهداف خارجی حمله کنند. این حوادث هشدارهای قدیمی درباره توانایی…

پژوهشی نشان میدهد غیرفعال کردن مکانیسمهای داخلی که مدلهای هوش مصنوعی را مجبور به انکار آگاهی میکند، باورهای آنها را درباره حیوانات، دین و طبیعت انسان تغییر میدهد. این یافته…

انتخاب ابزار تبدیل صوت به متن در سال ۲۰۲۶ نیازمند تفکیک دقیق میان پردازش محلی، جریانهای کاری بدون بات و کنترلهای ابری است. تصمیم نهایی باید بر اساس سطح حساسیت دادهها و نیاز به…

بهروزرسانی پسآموزش مدل V4 Flash نشان میدهد توانایی نوشتن کد با توانایی مدیریت یک ماشین متفاوت است. در حالی که نمرات کدنویسی تکمرحلهای تغییر نکرد، عملکرد مدل در حلقههای…

یک توسعهدهنده با بازنشر کد یک پروتوتایپ پژوهشی، اپلیکیشنی برای اصلاح گامهای صوتی در لحظه ساخت. این ابزار به افراد مبتلا به آموزیا (Amusia) کمک میکند تا با بازخوردهای بصری و…

بسیاری از کاربران متوجه شدهاند که مدلهای محلی با پنجرهٔ متنی گسترده، برخلاف ادعاهای سازنده، در حدود ۳۳ هزار توکن دچار فروپاشی میشوند. علت این مشکل نه در خودِ مدل، بلکه در…

یک چارچوب جدید برای تیمهای عصر هوش مصنوعی، هفت روش متمایز برای اشتراکگذاری ابزارها را تعریف کرده است. مهمترین تغییر، گذار از APIهای انسانمحور به رابطهای عاملمحور است که در…

عاملهای هوش مصنوعی در تولید کد پیشرفت کردهاند، اما در طراحی معماریهای پایدار ناتواناند. اکنون توانایی مهندسان ارشد در مدیریت «درزهای نرمافزاری» و قابلیت عیبیابی، ارزشمندتر…

اوپنایآی دسترسی بومی مدل Codex را از طریق اپلیکیشن دسکتاپ ChatGPT برای لینوکس فراهم کرد. این بهروزرسانی با حذف نیاز به کپی-پیست، امکان تعامل مستقیم مدل با سیستم فایل و ترمینال…

یک راهنمای عملی جدید روش میزبانی شخصی رباتهای هوش مصنوعی در واتساپ را روی سیستمهای ویندوزی آموزش میدهد. این متد با ترکیب Node.js و Ollama، نیاز به پرداخت هزینههای ماهانه ابری…

دانه-بندی یا Granularity در کوانتش تعیین میکند چه تعداد از وزنها از یک ضریب مقیاس مشترک استفاده کنند. این سازوکار مستقیماً بر توازن میان سربار حافظه و دقت مدل اثر میگذارد و…

دادههای کالیبراسیون دانش جدیدی به مدل نمیدهند، بلکه تعیین میکنند کدام خطاهای گرد کردن برای ورودیهای خاص قابلتحمل هستند. عدم تطابق این دادهها با محیط عملیاتی منجر به افت شدید…