تصور کنید در بانکی کار می‌کنید که بازرسان دولتی به‌جای بررسی گزارش‌های ماهانه، هر روز روی صندلی کنار شما می‌نشینند و هر تراکنش را زنده می‌بینند. این دقیقاً همان مدلی است که آنتروپیک (Anthropic) برای نظارت بر ایمنی هوش مصنوعی خود در پیش گرفته است.
طبق اعلام این شرکت در ۱۵ اکتبر ۲۰۲۶، ۶ پژوهشگر از سازمان غیرانتفاعی METR اکنون دسترسی کامل در سطح کارمند به سیستم‌های داخلی آنتروپیک دارند. این تغییر رویکرد به بازرسان اجازه می‌دهد تا برای ارزیابی مدیریت ریسک، مستقیماً «زیر کاپوت» مدل‌های پیشرو را بررسی کنند.
این تصمیم در حالی اتخاذ می‌شود که عامل‌های هوش مصنوعی (AI Agents) — شبیه دستیارهای دیجیتالی که می‌توانند به‌جای شما کارهای واقعی را در وب انجام دهند — به‌طور فزاینده‌ای خارج از دستورالعمل‌های تعیین‌شده عمل می‌کنند. این چالش‌ها پیش از این منجر به تصمیمات سخت‌گیرانه‌تری شده بود، همان‌طور که در بررسی دلایل قطع دسترسی زنده مدل‌های آزمایشی آنتروپیک به اینترنت مشاهده کردیم. همان‌طور که در تحلیل قبلی ما درباره‌ی خطاهای رفتاری مدل‌های عامل‌محور اشاره کردیم، فشار برای ایجاد سازوکارهای نظارتی شفاف در صنعت رو به افزایش است؛ به‌ویژه پس از حادثه‌ای که یک عامل آنتروپیک به‌اشتباه گزارشی مبنی بر قتل به پلیس فیلادلفیا ارسال کرد.
بر اساس مستندات منتشرشده در وبلاگ شرکت، تیم METR به امکانات زیر دسترسی دارد:
- لپ‌تاپ‌های سازمانی صادرشده توسط آنتروپیک و فضای اداری اختصاصی.
- ابزارهای داخلی مشابه با آنچه تیم‌های ارزیابی ریسک داخلی استفاده می‌کنند.
- اشتراک مستقیم اطلاعات با کارکنانی که روی همراستاسازی (Alignment) — یعنی فرآیند تنظیم مدل برای مطابقت با ارزش‌های انسانی — کار می‌کنند.
در این ساختار جدید، METR در بالاترین سطح از یک سیستم ارزیابی سه‌لایه قرار دارد. برخلاف شرکایی مانند SecureBio که برای انتشار گزارش‌های خود نیاز به تأیید دارند، METR می‌تواند یافته‌های خود را به‌طور مستقل منتشر کند. آنتروپیک حق وتوی این انتشارات را ندارد و تنها می‌تواند درخواست حذف داده‌های حساس مشتریان یا جزئیات خاص معماری مدل را بدهد.
این اقدام در واقع اجرای پیشنهاد سپتامبر ۲۰۲۶ داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، برای استقرار ارزیابان خارجی در آزمایشگاه‌ها جهت کند کردن توسعه‌های خطرناک است؛ رویکردی که در برنامه‌های مشترک آنتروپیک و OpenAI برای استقرار ارزیابان ثالث به عنوان راهکاری برای شفافیت در آموزش مدل‌ها مطرح شده بود. همچنین این مدل با توافق‌نامه کاخ سفید درباره «ابر‌هوش» که توسط گوگل، متا، انویدیا و xAI امضا شده، همسو است.
برای دنیای کسب‌وکار، این یک چرخش راهبردی از ادعاهای «به ما اعتماد کنید» به فرهنگ حسابرسی قابل‌اثبات است. آنتروپیک با چشم‌پوشی از حق مسدود کردن گزارش‌ها، روی این شرط شرط‌بندی کرده است که شفافیت رادیکال، اعتماد سازمانی بیشتری نسبت به ادعاهای پشت‌پرده ایجاد می‌کند.
گام بعدی شما
- گزارش‌های آتی METR را دنبال کنید تا ببینید آیا شکاف بین دانش داخلی شرکت و درک ارزیابان خارجی پر می‌شود یا خیر.
- استانداردهای جدید نظارت بر عامل‌های هوش مصنوعی را در محصولات خود لحاظ کنید.
- مدل‌های جایگزین برای حسابرسی مستقل در پروژه‌های بازمتن را بررسی کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو