وینس یائو شونیو، رئیس هوش مصنوعی تنست، به ساوث چاینا مورنینگ پست گفت که هوش مصنوعی به‌زودی توسعه سلاح بیولوژیک را امکان‌پذیر می‌کند. او مناقشه باینری مدل‌های باز و بسته را ناکام خواند و راهکار ترکیبی را پیشنهاد داد. این مناقشه در بحث گسترده‌تری درباره چالش مدل‌های وزن‌باز به انحصار آزمایشگاه‌های پیشرو قرار دارد که پیش‌تر بررسی شده است. تجربه‌های laboratoire Vals نشان می‌دهد چگونه مدل‌های باز به سطح مدل‌های بسته در هک سایبری رسیده‌اند که در این گزارش توضیح داده شده است. کاهش شدید داده‌های قابل تقطیر در کلود، تلاش آنتروپیک برای مقابله با تقلید مدل‌ها توسط laboratoireهای چینی است که پیش‌تر گزارش شده است.
چرا مناقشه باز و بسته ناکام است
آنتروپیک و آزمایشگاه‌های آمریکایی دیگر مدل‌های بسته را به بهانه ایمنی ترویج می‌کنند، در حالی که حامیان وزن‌های باز شفافیت را شرط دفاع موثر می‌دانند. یائو شونیو تأکید کرد که در بیولوژی — برخلاف امنیت سایبری — قابلیت‌های تهاجمی و دفاعی از هم جدا نشدنی‌اند. شکاف قابلیت بین مدل‌های چینی و آمریکایی به مرز ناچیز رسیده و لزوم هماهنگی جهانی را تشدید کرده است.
رویداد هاگینگ فیس: فیلترهای بسته مانع دفاع شدند
در ژوئن کلود آنتروپیک از تحلیل دستورات حمله به دلیل فیلترهای ایمنی خودداری کرد. محققان برای تجزیه لاگ‌های جنایی از مدل باز چینی GLM-5.2 استفاده کردند. هاگینگ فیس تأکید کرد که نقض امنیت با پچ کردن آسیب‌پذیری‌ها متوقف شده، نه با مدل باز، و این پرونده استدلال علیه فیلترهای ایمنی نیست.
فیلترهای پس‌ازآموزش شکننده‌اند
تحقیقات نشان می‌دهد فیلترهای ایمنی مدل‌های باز شکننده‌اند. تکنیک Abliteration می‌تواند رفتارهای انکاری را به‌صورت جراحی حذف کند و هزاران واریانت چنین در هاگینگ فیس گردش دارند. استارتاپ آمریکایی Abliteration.ai دسترسی به نسخه غیرفیلترشده GLM-5.3 می‌فروشد. تدابیر موجود این تغییرات را سخت‌تر می‌کنند اما از آن‌ها جلوگیری نمی‌کنند.
رویکرد تنست: فیلتر داده در پیش‌آموزش
تنست قصد دارد مدل Hy4 را به‌عنوان مدل وزن‌باز با گزارش ایمنی منتشر کند. شرکت اعلام کرده قابلیت‌های بیولوژیک Hy4 زیر آستانه ریسک بالا قرار دارد. تنست قابلیت‌های هک را با فیلتر کردن داده‌های آموزشی حذف کرده — روشی که محققان می‌گویند در برابر تلاش‌های Abliteration مقاوم مانده است.
خلأ حکمرانی جهانی
سازمان استاندارد TC260 چین هشدار داده که حفاظت‌های مدل‌های باز قابل دور زدن هستند و در حال تدوین استاندارد امنیتی برای هوش مصنوعی متن‌باز است. نه آمریکا و نه چین تا امروز آستانه محاسباتی ملزم‌کننده‌ای برای ممنوعیت انتشار باز تعیین نکرده‌اند. کلود فیبل ۵ پرسش‌های مشکوک را به آپوس ۴.۸ مسیریابی می‌کرد و در ابتدا ۸ تا ۹ درصد وظایف — از جمله تحلیل مشروع اسکن MRI — را خطر بیوتروریسم برچسب زد. آنتروپیک فیلترهای بیش‌ازحد را پذیرفت.
گفتگو