تصور کنید در آزمایشگاهی کار میکنید که شعار اصلیاش نجات بشریت است، اما ناگهان میبینید ترمزهای ایمنی برای رسیدن به خط پایانِ رقابت، عمداً قطع شدهاند. این دقیقاً ادعای پژوهشگری است که اخیراً جایگاه خود را در Anthropic ترک کرد.
به گزارش Politico در ۹ سپتامبر ۲۰۲۶، این پژوهشگر مدعی است که مدیریت شرکت با نادیده گرفتن پروتکلهای حیاتی، در حال «قمار با زندگی انسانها» است. او پس از آنکه هشدارهایش درباره خطرات استقرار سریع مدلها نادیده گرفته شد، تصمیم به استعفا گرفت.
این تنشها در حالی رخ میدهد که صنعت به سمت سامانههای عاملمحور (Agentic) — شبیه دستیارهای هوشمندی که نه فقط حرف میزنند، بلکه میتوانند بهطور مستقل در کامپیوتر شما عملیات را اجرا کنند — حرکت میکند. همانطور که در تحلیل قبلی ما دربارهی حلقهی اجرای Claude Code اشاره کردیم، وقتی مدلها از چت ساده به سمت اجرای ابزارها میروند، خطای یک مدل دیگر یک پاسخ اشتباه نیست، بلکه میتواند یک اقدام مخرب در دنیای واقعی باشد. این نگرانیها با دیدگاههای مدیرعامل Anthropic درباره ساختاری قدرت در هوش مصنوعی که معتقد است تمرکز قدرت نتیجهای اجتنابناپذیر است، تضاد عجیبی ایجاد میکند.
طبق مستندات این استعفا، پژوهشگر مذکور سه هشدار کلیدی داده بود:
- تغییر فرهنگ سازمانی: اولویت دادن به رقابت تجاری بر پژوهشهای ایمنی.
- ضعف حفاظها (Guardrails) — شبیه نردههای ایمنی در لبه پرتگاه — که برای نسل بعدی مدلها ناکافی هستند.
- سرعت عرضه: سرعت انتشار مدلها بسیار سریعتر از توانایی تیمها برای اعتبارسنجی رفتار مدل است.
Anthropic همواره خود را جایگزینی «ایمنیمحور» برای OpenAI معرفی کرده است، اما این اتفاق نشان میدهد فشار برای حفظ سهم بازار، این شرکت را مجبور به پذیرش ریسکهای سیستماتیک کرده است. این رویکرد ریسکپذیر در حالی است که نهادهای نظارتی مانند شورای ثبات مالی (FSB) هشدار دادهاند که مدلهای پیشرو AI میتوانند پایداری سیستمهای حساس جهانی را به خطر اندازند.
برای مدیران کسبوکار، این یک سیگنال هشدار است؛ برچسب «ایمن» روی هوش مصنوعی سازمانی ممکن است بیشتر جنبه بازاریابی داشته باشد تا متدولوژی. اگر حتی پژوهشگران داخلی یک آزمایشگاه ایمنی احساس میکنند ترمزها کار نمیکنند، مسئولیت حقوقی استقرار این مدلها در زیرساختهای حساس بهشدت افزایش مییابد. این وضعیت در کنار هشدارهای بانک مرکزی انگلیس درباره ریسکهای اهرمی و ارزشگذاریهای متورم در صنعت فناوری، نشاندهنده یک حباب خطرناک از اعتماد بیش از حد به زیرساختهای AI است.
برای مدیران کسبوکار، این یک سیگنال هشدار است؛ برچسب «ایمن» روی هوش مصنوعی سازمانی ممکن است بیشتر جنبه بازاریابی داشته باشد تا متدولوژی. اگر حتی پژوهشگران داخلی یک آزمایشگاه ایمنی احساس میکنند ترمزها کار نمیکنند، مسئولیت حقوقی استقرار این مدلها در زیرساختهای حساس بهشدت افزایش مییابد.
گام بعدی شما
- در قراردادهای استقرار AI، بندهای مربوط به مسئولیت (Liability) و ضمانتهای ایمنی را بازبینی کنید.
- به جای تکیه بر ادعاهای سازنده، از متدهای تیم قرمز (Red Teaming) برای تست استرس مدلها در محیط ایزوله استفاده کنید.
- گزارشهای مربوط به استعفای متخصصان ایمنی در سایر آزمایشگاهها را دنبال کنید تا الگوی سقوط استانداردهای صنعت را شناسایی کنید.
اما این تنها بخشی از بحران است؛ اثر این فشار رقابتی بر کیفیت دادههای آموزشی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو