تصور کنید یک بانک بزرگ اجازه دهد بازرسان دولتی میزهای دائمی در قلب گاوصندوق داشته باشند. این دقیقاً همان استراتژی جدیدی است که آنتروپیک (Anthropic) برای اثبات ادعاهای ایمنی خود به کار گرفته است. شرکت اذعان می‌کند که این استعاره کاملاً دقیق نیست، اما اشاره می‌کند همان‌طور که بانک‌ها درباره موقعیت‌های ریسک خود بیشتر از افراد خارجی می‌دانند، رگولاتورها نیز بازرسان مقیمی را به بزرگترین بانک‌ها اعزام می‌کنند تا ریسک‌هایی را که می‌تواند پیشاپیش امنیت عمومی را تهدید کند، شناسایی کنند. آنتروپیک با استقرار بازرسان در داخل سازمان امیدوار است ادعاهای ایمنی خود را بدون انتشار عمومی داده‌هایی که می‌تواند به بازیگران بدخواه کمک کند، به اثبات برساند.
طبق اعلام این شرکت در ۱۵ اکتبر ۲۰۲۶، ۶ ارزیاب از سازمان غیرانتفاعی METR اکنون دسترسی‌هایی تقریباً مشابه با تیم‌های داخلی ارزیابی ریسک دارند. این ترتیب قرار داد، به ارزیابان خارجی مجوزهایی می‌دهد که تقریباً با مجوزهای تیم‌های ارزیابی ریسک داخلی یکسان است. این ۶ کارمند METR به‌طور کامل با لپ‌تاپ‌های شرکتی، فضای اداری اختصاصی و دسترسی به ابزارهای داخلی و سیستم‌ها، در ساختار آنتروپیک مستقر شده‌اند.
این چرخش در حالی رخ می‌دهد که مدل‌های پیشروتر، ریسک‌های پیچیده‌تری ایجاد می‌کنند که اندازه‌گیری آن‌ها برای محیط‌های خارجی دشوار است. همان‌طور که در تحلیل قبلی ما درباره‌ی رشد مالی آنتروپیک و رسیدن درآمد سه ماهه سوم آن به ۱۶.۸ میلیارد دلار اشاره کردیم، این شرکت اکنون برای حفظ اعتماد عمومی، مدل شفافیت تهاجمی‌تری را برگزیده است. این اقدام در راستای تعهد سپتامبر ۲۰۲۶ شرکت برای تقویت ارزیابی‌های شخص ثالث و مستقل از شیوه‌های ایمنی است. همچنین این حرکت با «توافق‌نامه کاخ سفید درباره ابرهوش» همسو است؛ جایی که شرکت‌ها متعهد شدند با ارزیابان یا بازرسان مستقل خارجی همکاری کنند. پیش از این استقرار فیزیکی، آنتروپیک در طول سال گذشته روی چندین بررسی از گزارش‌های ریسک خود با METR همکاری کرده بود.
به گزارش unite.ai، تیم مستقر در METR دسترسی گسترده‌ای به ابزارهای داخلی دارد، اما چند استثنای سخت‌گیرانه وجود دارد. کارکنان آنتروپیک تشویق شده‌اند که اطلاعات را با تیم METR همان‌طور به اشتراک بگذارند که با یک همکار داخلی که روی ریسک‌های هم‌ترازی (Alignment Risk) کار می‌کند، به اشتراک می‌گذارند؛ به جز در دسته‌های زیر:
- داده‌های مشتریان: اطلاعات مربوط به مشتریان به‌طور کامل ممنوع و خارج از دسترس است.
- حقوق قانونی: اطلاعاتی که تحت پوشش محرمانگی بین وکیل و موکل هستند، محافظت می‌شوند.
- معماری مدل: این بخش برای جلوگیری از نشت‌های ناخواسته حذف شده است. از آنجایی که ارزیابان ممکن است با شرکت‌های دیگر نیز کار کنند، آنتروپیک اطلاعات معماری را ریسک بالایی برای نشت می‌بیند، در حالی که معمولاً ارتباط این اطلاعات با ارزیابی ریسک را پایین می‌داند.
اگر داده‌های معماری برای یک ارزیابی ریسک خاص حیاتی شود، آنتروپیک به‌طور کلی تلاش می‌کند آن را به اشتراک بگذارد، اما این اتفاق تنها پس از تاییدیه صریح داخلی رخ خواهد داد.
در مورد انتشار نتایج، METR حق انتشار تحلیل‌های خود درباره سطوح ریسک، حوادث و شیوه‌های اجرایی را حفظ می‌کند. آنتروپیک نمی‌تواند گزارش‌ها را وتو کند، هرچند می‌تواند از METR بخواهد اطلاعاتی را که در دسته‌های محدود و پیش‌تعریف‌شده ذکر شده است، حذف (Redact) کند.
نکته کلیدی و حیاتی اینجاست که اگر آنتروپیک اصرار به حذف بخشی از گزارش کند، METR مجاز است این حذف‌ها را به‌صورت علنی توصیف کرده و اعلام کند که آیا به نظر آن‌ها این اقدام توجیه‌پذیر بوده است یا خیر. این مکانیسم مانع از آن می‌شود که شرکت یافته‌های نامطلوب را تحت پوشش امنیت ساکت کند، به شرطی که METR خودِ اطلاعات حذف شده را فاش نکند.
برای حفظ امنیت، این همکاری به یک تیم کوچک محدود شده است که تحت قراردادهای الزام‌آور فعالیت می‌کنند. سایر کارکنان METR، از جمله پژوهشگرانی که در پروژه‌های جداگانه با آنتروپیک همکاری می‌کنند، به‌طور سخت‌گیرانه از کارهای تیم مستقر جدا (Siloed) شده‌اند. آنتروپیک تاکید می‌کند که این سازوکاری برای دستیابی سازمان‌های دیگر به اطلاعات اختصاصی این شرکت یا شرکایش نیست.
برای مدیریت این همکاری‌ها، آنتروپیک یک چارچوب سه سطحی برای شفافیت ایجاد کرده است تا شکاف بین درک ارزیابان و درک خودِ شرکت را پر کند:
- سطح ۱ (محدود): ارزیابان تحقیقات ریسک با دامنه محدود انجام می‌دهند. آنتروپیک تصمیم می‌گیرد چه دسترسی‌هایی ارائه شود و ارزیابان تنها با تایید آنتروپیک می‌توانند یافته‌ها را منتشر کنند.
- سطح ۲ (متوسط): ارزیابان می‌توانند بدون تایید آنتروپیک منتشر کنند و دسترسی به اطلاعات بیشتری دارند. آنتروپیک همچنان می‌تواند حذف دسته‌های خاصی از اطلاعات را درخواست کند، اما ارزیابان می‌توانند نظر خود را درباره توجیه‌پذیر بودن این حذف‌ها منتشر کنند.
- سطح ۳ (مستقر): بالاترین سطح اعتماد که در حال حاضر مختص METR است. این سطح شامل دسترسی مشابه کارکنان و حقوق انتشار مشابه سطح ۲ است.
آنتروپیک امیدوار است در طول زمان، چندین ارزیاب مختلف در سطح سوم فعال شوند و هر کدام تحلیل‌های مستقل خود را درباره وضعیت ریسک و تصمیمات کلیدی شرکت منتشر کنند.
فراتر از METR، شرکت در حال متنوع کردن بررسی‌های ایمنی خود است. در حال حاضر شرکت SecureBio در سطح ۱ فعال است. این سازمان در حال بررسی فصل مربوط به سلاح‌های شیمیایی و بیولوژیکی در گزارش ریسک اوت ۲۰۲۶ آنتروپیک است که پس از یک بررسی آزمایشی روی گزارش قبلی صورت می‌گیرد. پس از تکمیل این مرحله، آنتروپیک انتقال SecureBio به پروژه‌هایی با دسترسی بیشتر را بررسی خواهد کرد.
همچنین با شرکت‌های Accenture و Faculty، آنتروپیک در حال پیشبرد مشارکتی است که شامل موارد زیر باشد:
- ارزیابی و تیم قرمز (Red-teaming) مدل‌ها.
- انجام ارزیابی‌های هم‌ترازی (Alignment Assessments).
- تست حفاظ‌های مدل (Model Safeguards).
- ساخت قابلیت‌ها در سراسر سازمان‌ها.
مذاکراتی در مراحل اولیه با سازمان‌های دیگر، از جمله Hugging Face نیز در جریان است. به دلیل مراحل اولیه بودن، این ارزیابان دسترسی محدودتری به اطلاعات و حقوق انتشار دارند. هدف این است که با ایجاد اعتماد، ارزیابان مستقل بیشتری به‌طور کامل مستقر شوند.
این ابتکار از مقاله سپتامبر ۲۰۲۶ داریو آمودی (Dario Amodei)، هم‌بنیان‌گذار آنتروپیک، با عنوان «باید سرعت پیشروی را تنظیم کنیم» (We Must Pace the Frontier) نشأت می‌گیرد. آمودی در این نوشتار استدلال کرد که «ما باید سرعتی را که قابلیت‌های مدل‌های هوش مصنوعی را بهبود می‌بخشیم، کاهش دهیم» تا پیشگیری از ریسک فرصت داشته باشد تا با پیشرفت قابلیت‌ها همگام شود.
آمودی یک برنامه سه مرحله‌ای برای تنظیم توسعه هوش مصنوعی پیشرو ترسیم کرد که استقرار ارزیابان اولین گام آن است. او به‌طور یک‌جانبه آنتروپیک را به این مدل متعهد کرد و از دولت‌ها خواست تا سایر شرکت‌های پیشرو را ملزم کنند تا با این استاندارد همسو شوند. او تصریح کرد که این بازبین‌ها باید میز، کارت دسترسی و لپ‌تاپ شرکتی داشته باشند و مجوزهای آن‌ها با تیم‌های ریسک داخلی قابل مقایسه باشد.
به باور آنتروپیک، برای اینکه ارزیابان موثر باشند، به چهار مورد خاص نیاز دارند:
۱. تخصص: درک قابلیت‌های مدل‌های پیشرو و اینکه ارزیابی‌ها چگونه می‌توانند شکست بخورند (مثلاً پدیده تظاهر به هم‌ترازی یا Alignment Faking).
۲. استقلال: عدم داشتن سهام در شرکت و عدم وابستگی مالی یا عملیاتی.
۳. دستی: دیدن اینکه مدل‌ها چگونه آموزش دیده‌اند و حفاظ‌ها چگونه عمل می‌کنند، نه فقط دسترسی به آخرین مدل‌ها.
۴. آزادی: توانایی انتشار مشاهدات و ارزیابی‌های مربوط به یک فرآیند یا مدل.
این تغییر نشان می‌دهد که رویکرد صنعت هوش مصنوعی به ایمنی در حال تغییر است. آزمایشگاه‌ها به جای تکیه بر «گزارش‌های ریسک» خوداظهاری، شروع به پذیرش بازرسان مقیم برای تایید فرآیندهای داخلی خود کرده‌اند. این رویکرد مشابه تلاش‌های دیگر شرکت‌ها برای استانداردسازی امنیت است، مانند زمانی که گواهینامه AIUC-1 امنیت عامل‌های هوش مصنوعی Sierra را تأیید کرد تا اعتماد کاربران به سیستم‌های خودکار افزایش یابد.
برای دنیای کسب‌وکار، این موضوع نشان می‌دهد که «ایمنی هوش مصنوعی» از یک ارزش شرکتی مبهم به یک تابع انطباقی و حسابرسی‌پذیر تبدیل شده است که مشابه حسابرسی مالی است.
باید منتظر ماند و دید آیا آزمایشگاه‌های بزرگ دیگر مانند OpenAI یا Google DeepMind در پاسخ به فراخوان آمودی برای استانداردهای صنعتی، برنامه‌های مشابه «بازرس مقیم» را اتخاذ می‌کنند یا خیر.
برای دنیای کسب‌وکار، این موضوع نشان می‌دهد که «ایمنی هوش مصنوعی» از یک ارزش شرکتی مبهم به یک تابع انطباقی و حسابرسی‌پذیر تبدیل شده است که مشابه حسابرسی مالی است.
باید منتظر ماند و دید آیا آزمایشگاه‌های بزرگ دیگر مانند OpenAI یا Google DeepMind در پاسخ به فراخوان آمودی برای استانداردهای صنعتی، برنامه‌های مشابه «بازرس مقیم» را اتخاذ می‌کنند یا خیر.
گام بعدی شما
- اگر مدیر محصول هستید، مدل «بازرسی مستقر» را به عنوان استانداردی برای ارزیابی ابزارهای AI در سازمان خود در نظر بگیرید.
- گزارش‌های آتی METR را دنبال کنید تا ببینید آیا دسترسی داخلی منجر به کشف ریسک‌های جدیدی می‌شود که در گزارش‌های رسمی پنهان بودند یا خیر.
- بررسی کنید که آیا سایر آزمایشگاه‌های بزرگ مانند OpenAI یا Google DeepMind در پاسخ به فشار آمودی، برنامه‌های مشابهی را اجرا می‌کنند یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو