اوپن‌ای‌آی در ایمیلی به اعضای برنامه تراستد اکسس (Trusted Access) اعلام کرد که از ۲۹ نوامبر داده‌های جلسات دِیبرِیک بلو (Daybreak Blue) در آموزش مدل‌های عمومی شرکت استفاده خواهد شد. این تصمیم تضمین چندساله را نقض می‌کند که بر اساس آن داده‌های سایبری حساس حتی در صورت خاموش بودن تنظیمات اشتراک‌گذاری، هرگز برای آموزش به کار نمی‌رفتند. تغییر در حالی اعلام شده که اوپن‌ای‌آی تازه ۱۱ میلیارد دلار سرمایه جذب کرده و به سمت هدف ۳۰ میلیارد دلاری حرکت می‌کند. این تغییر در حالی رخ می‌دهد که نقض محفظه اوپن‌ای‌آی از طریق DNS و توقف ۱۱ روزه آموزش مدل‌های مرزی پیش‌تر نگرانی‌های مشابهی را به وجود آورده بود. در همین راستا، آغاز آموزش مرزی در محیط کاملاً آفلاین نشان‌دهنده حساسیت بیشتر به منابع داده است. این روند با قطع دسترسی مدل به وب در آموزش مدل‌های مرزی هم‌خط است.
تغییر سیاست داده‌های دِیبرِیک بلو
جزئیات
- تاریخ اجرا: ۲۹ نوامبر به‌عنوان آغاز استفاده از داده‌های دِیبرِیک بلو در آموزش تأیید شده است.
- مکانیزم خروج: گزینه خروج (opt-out) جداگانه از توگل «بهبود مدل برای همه» وعده داده شده، اما دامنه و پیش‌فرض آن منتشر نشده است.
- استثنای ایمنی: تعاملاتی که در بازبینی‌های ایمنی (safety reviews) پرچم‌دار شده‌اند، همچنان برای آموزش‌های ایمنی واجد شرط می‌مانند.
نگرانی محققان
ریاضی‌دانان تریستان باکمستر (Tristan Buckmaster) و لونت آلپوگه (Levent Alpöge) پیش‌نویس‌های معادله ناویر-استوکس (Navier-Stokes) را در کدکس (Codex) بارگذاری کرده بودند. اوپن‌ای‌آی بعداً اثباتی منتشر کرد اما استفاده از ورودی‌های آن‌ها را انکار نمود. این پرونده باعث شده محققان به تضمین‌های جدید اعتماد نکنند.
پیامد برای تیم‌های امنیت
داده‌های مالکیتی شامل حفره‌های امنیتی و رونوشت‌های پاسخ به حادثه می‌توانند بی‌اختیار مدل رقیب را هوشمندتر کنند. سازمان‌ها باید قبل از ۲۹ نوامبر پیش‌فرض کنسول مدیریت را بررسی کنند و داده‌های حساس را از آپلود خودداری کنند یا از نسخه‌های ماسک‌شده استفاده کنند.
روند صنعت
واکنش آنتروپیک (Anthropic) و گوگل (Google) برای محصولات امنیتی را پیگیری کنید. اگر الگو تکرار شود، استراتژی داده سازمانی باید بازنگری گردد. بازبینی جامعه‌محور شرایط جدید احتمالاً در لس‌رَانگ (LessWrong) و انجمن همراستاسازی هوش مصنوعی (AI Alignment Forum) شکل می‌گیرد.
گفتگو