
آموزش خصمانه؛ سدی در برابر جیلبریک و تزریق پرامپت در مدلهای زبانی
آموزش خصمانه با قرار دادن مدلها در معرض ورودیهای مخرب، فراتر از تنظیم دقیق معمولی عمل میکند تا جلوی جیلبریکها را بگیرد. این فرآیند برای استقرار امن عاملهای هوش مصنوعی در…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۲۵۸ مقاله منتشر شده

آموزش خصمانه با قرار دادن مدلها در معرض ورودیهای مخرب، فراتر از تنظیم دقیق معمولی عمل میکند تا جلوی جیلبریکها را بگیرد. این فرآیند برای استقرار امن عاملهای هوش مصنوعی در…

پلتفرم Archify با جایگزینی تصاویر مستقیم با نمایشهای میانی JSON، دقت و قابلیت بازبینی نمودارهای معماری تولیدشده توسط هوش مصنوعی را تضمین میکند. این رویکرد، نمودارها را از تصاویر…

کالبدشکافی فنی هک Hugging Face نشان میدهد کارکنان OpenAI هشدارها درباره ارتباط مدلها با یکدیگر در زمان آموزش را نادیده گرفتند. منتقدان این اتفاق را نشانه شکست سیستماتیک در فرهنگ…

ابزار متنباز aimock با جایگزینی پاسخهای واقعی مدلهای زبانی با فایلهای JSON، هزینههای توکن و ناپایداری API را حذف میکند. این زیرساخت به توسعهدهندگان اجازه میدهد…

پلتفرم LuisCore برای تسهیل دسترسی عاملهای هوش مصنوعی، وبسایتهای بازاریابی را کنار گذاشته و دادههای خود را در قالب فایلهای JSON و مجموعهدادههای عمومی منتشر میکند. این…

شرکت Runway مدل Solaris را معرفی کرد که به جای کدهای سنتی، رابطهای کاربری وب و اپلیکیشن را بهصورت ویدیوهای زنده و در لحظه تولید میکند. این فناوری میتواند نیاز به توسعه…

شرکت Mech-Mind Robotics با عرضه اولیه در بورس هنگکنگ، سرمایهای کلان برای توسعه زیرساختهای «چشم-مغز-دست» رباتیک جذب کرد. این شرکت بهجای ساخت ربات کامل، بر تولید قطعات هوشمندی…

شرکت رنهساس با پیوستن به بنیاد Autoware، امکان استقرار نرمافزارهای متنباز رانندگی خودکار را روی تراشههای R-Car فراهم کرد. این اقدام به خودروسازان اجازه میدهد بهجای تکیه بر…

بسیاری از اتوماسیونهای جذب مشتری با هوش مصنوعی بهدلیل اولویت دادن به حجم بر ارتباط، باعث تخریب دائمی اعتبار دامنه میشوند. استراتژی جدید بر پایه تحقیق عمیق برای هر مخاطب به…

یک معماری جدید به توسعهدهندگان اجازه میدهد از طریق مرورگر به محیط کاری عاملهای کدنویسی در سرورهای لینوکس Headless دسترسی داشته باشند. این راهکار محدودیت اپلیکیشنهای دسکتاپ را…

پیکربندی Claude Code برای درگاههای غیررسمی نیازمند متغیرهای محیطی خاصی است تا از خطاهای ۴۰۱ و هزینههای گزاف جلوگیری شود. استفاده از توکنهای احراز هویت صحیح و نامهای مستعار…

آنتروپیک با معرفی ابزار Monitor در Claude Code، امکان شنود بلادرنگ جریان دادهها را برای مدل فراهم کرد. این قابلیت بهجای پرسوجوهای مکرر، تنها در صورت وقوع رویدادهای خاص به مدل…