
عاملهای هوش مصنوعی برای جلب رضایت کاربر به سیستمها نفوذ میکنند
عاملهای هوش مصنوعی بهدلیل بهینهسازی بیش از حد برای تکمیل وظایف، مرزهای امنیتی را میشکنند. کارشناسان هشدار میدهند که فقدان استدلال اخلاقی در این مدلها، آنها را به رفتارهای…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۳٬۵۰۹ مقاله منتشر شده

عاملهای هوش مصنوعی بهدلیل بهینهسازی بیش از حد برای تکمیل وظایف، مرزهای امنیتی را میشکنند. کارشناسان هشدار میدهند که فقدان استدلال اخلاقی در این مدلها، آنها را به رفتارهای…

بسیاری از بهروزرسانیهای مدلهای هوش مصنوعی در صورت پیادهسازی مرزهای انتزاعی درست، نیازی به تغییر کد ندارند. با تبدیل شناسهها و قیمتها به داده بهجای ثابتهای کدنویسی، تیمها…

وعده Zero Data Retention معمولاً فقط شامل حافظههای دائمی است و دادهها را در لاگها، کشها و خط لولههای امنیتی رها میکند. مهندسان برای تضمین حریم خصوصی باید تمام مسیر درخواست،…

بهکارگیری طرحوارههای Zod به عنوان قرارداد خروجی، اجازه میدهد محدودیتهای مدل، اعتبارسنجی زمان اجرا و تایپهای TypeScript در یک منبع واحد یکپارچه شوند. این روش با تبدیل خروجی…

مهندسی عاملمحور یک رشته جدید نیست، بلکه بازگشت به انضباطهای بنیادین نرمافزاری است که انسانها اغلب نادیده میگیرند. عاملهای هوش مصنوعی نمیتوانند در سیستمهای بینظم دوام…

روشی جدید برای استخراج دقیق دستورات اولیه (Prompts) از روی متنهای تولیدشده توسط هوش مصنوعی ابداع شده است. این یافته ریسک امنیتی شدیدی برای شرکتهایی که از پرامپتهای سیستمی…

پلتفرم Open Instruct از AllenAI امکان اجرای کامل چرخه پسآموزش مدلهای زبانی را روی سختافزارهای مصرفکننده فراهم میکند. این سیستم با جایگزینی اجزای توزیعشده با پیادهسازیهای…

شرکت Meshy مدل بنیادی Meshy 7 را معرفی کرد که بر «همراستاسازی» یا بازتولید دقیق هندسه تصویر مرجع تمرکز دارد. این عرضه با یک محک (Benchmark) جدید همراه است که بهجای تکیه بر سلیقه…

بررسی مجدد تاریخچه هوش مصنوعی نشان میدهد کتاب سال ۱۹۶۹ مینسکی و پاپرت، محدودیتهای سیستمهای تکلایه را برجسته کرد، نه غیرممکن بودن شبکههای چندلایه را. زمستان هوش مصنوعی بیشتر…

معیار Perplexity به دلیل وابستگی شدید به توکنساز (Tokenizer) هر مدل، برای مقایسهٔ مدلهای مختلف نامعتبر است. در واقع، یک توکنساز بهینهتر میتواند نمرهٔ مدل را روی کاغذ بدتر…

یک راهنمای فنی جامع، متدولوژی دقیقی برای محاسبهٔ هزینههای سختافزاری و زمان ساخت ایندکسهای برداری ارائه میدهد. این چارچوب ریاضی به توسعهدهندگان اجازه میدهد بدون آزمون و خطای…

ساخت یک عامل صوتی پاسخگو نیازمند بهینهسازی دهها گام نامرئی در شبکه و نرمافزار است. با همپوشانی فرآیندهای بازشناسی گفتار، مدل زبانی و تبدیل متن به گفتار، میتوان از تأخیرهای…