آنتروپیک در پرونده S-1A بازنگری‌شده اعلام کرد که برآوردهای داخلی شرکت نشان می‌دهد آستانه بهبود خودبه‌خود بازگشتی (Recursive Self-Improvement یا RSI) به‌زودی فرا می‌رسد. این نخستین بار است که یک آزمایشگاه مرزی (frontier lab) به‌صورت رسمی در سند نظارتی به نزدیکی هوش مصنوعی خودساز (self-building AI) اشاره می‌کند. این نگرانی در پی هشدار قبلی آنتروپیک درباره تکثیر خودکار مدل‌های هوش مصنوعی بدون سرور مرکزی مطرح شده است.
آستانه بهبود خودبه‌خود بازگشتی در پیش‌رو
سیاست مقیاس‌پذیری مسئولانه (Responsible Scaling Policy) اکنون «پیشرفت به‌شدت تسریع‌شده ناشی از هوش مصنوعی» را به‌عنوان عامل فعال‌سازی حفاظت‌های پیشرفته تعریف می‌کند. آنتروپیک بیان می‌کند برآوردهای داخلی برای مدل‌های آتی — نه مدل‌های فعلی — حاکی از فرا رسیدن این آستانه در آینده‌ی نزدیک است. شرکت تاکید کرده که هیچ‌یک از مدل‌های حاضر به‌عنوان فرازنده این آستانه مشخص نشده‌اند و ارزیابی داده‌ها ادامه دارد.
اعترافات عینی در پرونده S-1A
- «استفاده از هوش مصنوعی برای ساخت هوش مصنوعیِ قوی‌تر می‌تواند ریسک ایمنیِ قابل‌توجهی باشد، به‌ویژه اگر سرعت پیشرفت به‌شدت افزایش یابد. این یکی از حوزه‌های مشمول سیاست مقیاس‌پذیری مسئولانه ماست که برنامه‌های نظارت و کاهش ریسک را در نزدیکیِ بهبود خودبه‌خود بازگشتی تشریح می‌کند.»
- «ما در گذشته نتوانسته‌ایم، و ممکن است در آینده هم نتوانیم، یک تسریعِ قابل‌توجه در نرخ توسعه را تا پس از وقوعِ آن شناسایی کنیم.»
- «برآوردهای داخلی و انتظارات ما درباره مدل‌های آتی — نه مدل‌های فعلی — حاکی از آن است که ممکن است به‌زودی آستانه‌ی تعریف‌شده در سیاست مقیاس‌پذیری مسئولانه برای «پیشرفتِ به‌شدت تسریع‌شده ناشی از هوش مصنوعی» را بفرازیم.»
- «ما هیچ‌یک از مدل‌های فعلی را به‌عنوان فرازنده‌ی این آستانه مشخص نکرده‌ایم و همچنان داده‌های زیرین را ارزیابی می‌کنیم.»
- «ما پیش‌بینی نمی‌کنیم که بتوانیم به‌صورت ایمن از کلود برای طراحی و ساختِ کاملاً خودمختار نسل‌های متعاقب مدل‌های مرزی بدون نظارت یا درکِ معنادار انسانی استفاده کنیم، اگر و وقتی که این امر از نظر فنی ممکن شود. بنابراین، ما در حال بررسی به‌روزرسانی سیاست مقیاس‌پذیری مسئولانه هستیم تا انسان‌ها در کنترل توسعه مدل‌های مرزی در آنتروپیک بمانند.»
مهارت‌های کلود و جهش‌های اخیر
بر اساس مستندات، مهارت‌های کدنویسی، ریاضی و امنیت سایبری کلود در سال جاری جهش‌های پرشینی داشته است.
تعهد انسان در حلقه و به‌روزرسانی سیاست
آنتروپیک اعلام کرده که پیش‌بینی نمی‌کند بتواند به‌صورت ایمن از کلود برای طراحی و ساخت کاملاً خودمختار نسل‌های بعدی مدل‌های مرزی بدون نظارت معنادار انسانی استفاده کند. به همین دلیل، شرکت در حال بررسی به‌روزرسانی سیاست مقیاس‌پذیری مسئولانه است تا کنترل انسان بر توسعه مدل‌های مرزی حفظ شود.
واکنش‌ها و پیامدها
منتقدان یادآوری می‌کنند که پرونده S-1A هم کارکرد افشاگری دارد و هم کارکرد بازاریابی؛ ادعاهای نزدیکی RSI می‌تواند در زمره‌ی دوم قرار بگیرد. این هشدار منظر رقابتی برای آزمایشگاه‌های هوش مصنوعی و تنظیم‌گرها را بازتعریف می‌کند: اگر آزمایشگاهی که بر ایمنی متمرکز است، هوش مصنوعی خودبه‌بهبود را «در پیش‌رو» می‌داند، چارچوب‌های حکمرانی باید سریع‌تر از تقویم‌های فنی پیش بروند. سرمایه‌گذاران باید نزدیکی RSI را به‌عنوان عامل ریسکِ مادی که ارزیابی و نقشه‌ی استقرار را تحت تأثیر قرار می‌دهد، بسنجند.
گام‌های پیشنهادی
گام بعدی شما
- نسخه‌ی آینده سیاست مقیاس‌پذیری مسئولانه آنتروپیک و حسابرسی‌های شخص ثالث ارزیابی‌های RSI را در تقویم خود قرار دهید.
- اگر تیم‌تان از کلود برای کدنویسی یا استدلال امنیتی استفاده می‌کند، سنجش هفتگی سرعت پیشرفت مدل در بنچمارک‌های هدف را الزامی کنید.
- در مدل‌های ارزیابی سرمایه‌گذاری، نزدیکی RSI را به‌عنوان متغیر ریسک جداگانه مدل‌سازی کنید.
گفتگو