درون استراتژی انتروپیک برای جایگزینی شفافیت داوطلبانه با نظارت اجباری دولتی

اگر شما یک سیاست‌گذار یا رهبر کسب‌وکار هستید، احتمالاً در حال حاضر با مقیاسی از زمان پیش می‌روید که اساساً با فناوری‌ای که سعی در مدیریت آن دارید، ناهماهنگ است. طبق یک مقاله سیاستی مفصل که در ۲۰ ژوئن ۲۰۲۶ منتشر شد، داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، هشدار می‌دهد که ما در حال نزدیک شدن به مرحله‌ای از «هوش مصنوعی قدرتمند» هستیم؛ وضعیتی که او آن را به «کشوری از نابغه‌ها در یک مرکز داده» تشبیه می‌کند، در حالی که قانون‌گذاری‌ها با سرعتی لاک‌پشتی پیش می‌روند.

آمودی برای توصیف تقابل هوش مصنوعی و سیاست، از تمثیلی استفاده می‌کند که در آن هابیت‌ها سعی دارند درختی عظیم و کند‌هیکل به نام «تریبیرد» (Treebeard) را بیدار کنند. همان‌طور که تریبیرد یک روز کامل زمان نیاز دارد تا صرفاً به درخت دیگری سلام کند، دولت‌ها نیز کند حرکت می‌کنند و این کندی اغلب دلایل منطقی دارد. با این حال، این عدم تطابق دردناک است. او اشاره می‌کند که تنها در چهار سال، هوش مصنوعی از کلنجار رفتن با کدهای ساده به نوشتن بخش اعظم کدهای شرکت‌های بزرگ AI رسیده است. این رشد نمایی توسط بیش از یک دهه شواهد تجربی در مورد «قوانین مقیاس‌بندی» (Scaling Laws) پشتیبانی می‌شود؛ قوانینی که پیش‌بینی می‌کنند با افزایش قدرت پردازش، توانایی‌های شناختی عمومی نیز افزایش می‌یابد. اگر این قوانین تنها یک یا دو سال دیگر ادامه یابند، جهان با واقعیت «هوش مصنوعی قدرتمند» روبرو خواهد شد.

زمینه و معمای نظارتی هوش مصنوعی

سال‌ها بود که طرفداران ایمنی و شرکت آنتروپیک با یک تناقض روبرو بودند. آن‌ها می‌توانستند مسیر نمایی را ببینند و حدس بزنند که هوش مصنوعی چشم‌انداز سیاست را همان‌طور که سلاح‌های هسته‌ای ژئوپلیتیک را تغییر دادند یا انقلاب صنعتی اقتصاد را دگرگون کرد، بازسازی خواهد کرد. اما برای کسانی که فقط به قابلیت‌های فعلی نگاه می‌کردند، AI چیزی جز یک اپلیکیشن مصرفی معمولی یا ارز دیجیتال نبود. این موضوع باعث شد متقاعد کردن سیاست‌مداران برای هر اقدامی جز رویکرد «آزاد گذاشتن بازار» (Laissez-faire) دشوار باشد.

علاوه بر این، «معمای کالینجریج» (Collingridge dilemma) نقش داشت: اثرات یک فناوری اغلب تا زمانی که برای مدیریت آسان آن خیلی دیر شود، به‌سختی قابل پیش‌بینی است. چون اثرات رادیکال هنوز ظاهر نشده بودند، طراحی سیاست‌های درست حتی در صورت وجود اراده برای اقدام، دشوار بود. در نتیجه، آنتروپیک بر حفظ «گزینه‌های آینده» از طریق قوانین شفافیت، کنترل صادرات تراشه‌ها و جمع‌آوری داده‌ها درباره اثرات بر نیروی کار تمرکز کرد.

برای سال‌ها، این تنها چیزی بود که ممکن به نظر می‌رسید. اما اکنون آمودی تأکید می‌کند که عصر شفافیت ساده به پایان رسیده است. انتشار کلود میتوس پریویو (Claude Mythos Preview) ثابت کرد که مدل‌های پیشرو اکنون ریسک‌های ملموسی برای امنیت ملی و بخش مالی جهانی ایجاد می‌کنند و عملاً چشم‌انداز امنیت سایبری جهانی را به هم ریخته‌اند. او معتقد است ریسک‌های بیولوژیکی و شکست‌های مربوط به خودمختاری AI تهدیدات قریب‌الوقوع بعدی هستند. او خاطرنشان می‌کند که ریسک‌های بیولوژیکی ممکن است سخت‌تر مدیریت شوند، زیرا مهاجمان نسبت به مدافعان برتری بیشتری دارند و شدت یک فاجعه می‌تواند بسیار بیشتر باشد.

نقشه‌ی راه جدید: مدل FAA برای هوش مصنوعی

آمودی پیشنهاد می‌کند که از شفافیت داوطلبانه به سمت مقررات الزام‌آور حرکت کنیم. او اذعان می‌کند که رگولاتورها اغلب فاقد اطلاعات لازم برای مبادلات اقتصادی پیچیده هستند (یک نکته هایکی)، اما استدلال می‌کند که ریسک‌ها اکنون به وضوح حضور دارند. او پیشنهاد می‌کند نظارت بر AI شبیه به سازمان هواپیمایی فدرال آمریکا (FAA) شود؛ یعنی مدل‌های پیشرو مانند هواپیماهایی باشند که پیش از تیک-آف (استقرار)، باید آزمون‌های ایمنی سخت‌گیرانه‌ای را پاس کنند.

در سال ۲۰۲۵، آنتروپیک از تلاش‌های شفافیت حمایت کرد و به تصویب قانون SB 53 در کالیفرنیا، RAISE در نیویورک و SB 315 در ایلینوی (اوایل ۲۰۲۶) کمک کرد. با این حال، او اکنون استدلال می‌کند که به یک چارچوب تهاجمی‌تر نیاز است. او هشدار می‌دهد که لیست‌های خشک از الزامات ایمنی می‌توانند نتیجه معکوس داشته باشند؛ در چارچوب‌های داوطلبانه، الزاماتی که اهمیت کمی دارند اغلب ۹۵٪ از تلاش‌های انطباق را می‌بلعند، در حالی که بزرگترین ریسک‌ها پیش‌بینی نشده باقی می‌مانند. برای جلوگیری از این اتفاق در قانون، او رویکردی منعطف‌تر اما الزام‌آور را پیشنهاد می‌کند. پیشنهادهای خاص او عبارتند از:

• تست اجباری: مدل‌هایی که از حد مشخصی از قدرت پردازش (Compute Threshold) عبور کنند، باید در چهار حوزه حیاتی توسط شخص ثالث تست شوند: امنیت سایبری، سلاح‌های بیولوژیکی، از دست دادن کنترل سیستم‌های AI و R&D خودکار که این ریسک‌های دیگر را تسریع می‌کند.
• اختیار استقرار: دولت باید قدرت مسدود کردن یا بازگرداندن استقرار مدل‌هایی را داشته باشد که تشخیص داده شده ریسک‌های غیرقابل‌قبولی دارند. این قدرت باید دقیقاً محدود به چهار ریسک شناسایی شده باشد تا از پارتی‌بازی سیاسی یا تصمیمات دلخواه جلوگیری شود.
• بازارهای نظارتی: ارزیابی‌ها می‌تواند توسط یک آژانس دولتی (مشابه FAA) یا مجموعه‌ای از سازمان‌های خصوصی که توسط دولت مجاز شناخته شده و بازرسی می‌شوند، انجام شود.
• استانداردهای امنیتی: شرکت‌های AI باید امنیت شدیدی برای وزن‌های مدل (Model Weights) پیاده کنند، تست‌های نفوذ و Red-teaming منظم انجام دهند و در برابر بازیگران تهدید بزرگ با دولت همکاری کنند.
• گزارش حوادث: تمام حوادث ایمنی در چهار حوزه کلیدی باید فوراً گزارش شوند.

آمودی هشدار می‌دهد که اگر AI کمتر شبیه هواپیما و بیشتر شبیه مواد هسته‌ای قابل تبدیل به سلاح شود (تهدیدی برای کل بشریت)، اقدامات تهاجمی‌تری نیاز خواهد بود. با این حال، او معتقد است باید سیاست‌ها را برای خطرات امروز طراحی کنیم و در عین حال پایه‌هایی را بسازیم تا با ظهور خطرات جدید، سرعت پاسخگویی را افزایش دهیم.

مدیریت شوک بازار کار

فراتر از ایمنی، آمودی به شوک اقتصاد کلان ناشی از جابجایی شغلی توسط AI می‌پردازد. او استدلال می‌کند که AI ممکن است جایگزینی کلی‌تر برای شناخت انسانی باشد تا هر فناوری قبلی و پتانسیل ایجاد فقدان دائمی نیروی کار را داشته باشد. او این notion را که او «پیامبر نابودی» است رد می‌کند و می‌گوید هشدار در مورد جابجایی را می‌دهد تا بخش خصوصی و سیاست‌گذاران بهترین شانس را برای سازگاری داشته باشند. او اشاره می‌کند که مکانیسم‌های سازگاری معمول، مانند «پارادوکس ژوونز» یا «مزیت نسبی»، ممکن است در برابر سرعت این فناوری فلج شوند.

او خاطرنشان می‌کند که اگرچه AI فرصت‌های جدیدی ایجاد خواهد کرد (مثلاً افرادی که شرکت‌های میلیارد دلاری می‌سازند یا تیم‌های کوچکی که صدها میلیون درآمد دارند)، اما احتمال زیادی وجود دارد که از دست دادن گسترده شغل، یک ویژگی ذاتی این فناوری باشد. او معتقد است انسان‌ها همچنان می‌توانند زندگی‌های هدفمندی داشته باشند و چیزهای زیبایی بسازند حتی اگر AI در همه چیز از همه بهتر باشد، اما سیاست‌ها باید برای جامعه زمان بخرند تا این موضوع را حل کند. برای مقابله با شوک اقتصادی، او یک رویکرد سه جانبه را پیشنهاد می‌کند:

• سنجش: گسترش آمارهای اقتصادی دولت برای رصد لحظه‌ای جابجایی‌های شغلی AI. آنتروپیک نزدیک به ۱۸ ماه یک «شاخص اقتصادی استفاده از کلود» را اجرا کرده است، اما دولت‌ها دسترسی برتری به داده‌ها دارند.
• مشوق‌های اشتغال: اجرای «بیمه دستمزد» برای جبران خسارت کارگرانی که به مشاغل کم‌درآمدتر می‌روند (پرداخت تفاوت بین حقوق جدید و قدیم)، ارائه مشوق‌های مالیاتی برای حفظ کارکنان جهت جلوگیری از تعدیل نیرو، ارائه گرنت‌های آموزشی برای نیروی کار و بهبود زیرساخت‌های تطبیق کارفرما-کارمند.
• حمایت بلندمدت: استفاده از مالیات شرکت‌های AI یا افزایش مالیات بر عایدی سرمایه برای تأمین بودجه درآمد پایه همگانی (UBI) یا حساب‌های سرمایه همگانی. او تأکید می‌کند که رشد سریع اقتصادی باید پایه مالیاتی لازم برای این رفاه مشترک را ایجاد کند.

آمودی همچنین به خصومت عمومی نسبت به مراکز داده و قیمت انرژی می‌پردازد. او معتقد است شرکت‌های AI باید هزینه افزایش نرخ‌ها را بپذیرند (تعهدی که آنتروپیک قبلاً داده است)، اما این خصومت را نمادی از اضطرابات اقتصادی گسترده‌تر می‌بیند که باید مستقیماً به آن‌ها پاسخ داد تا از بروز غیرمستقیم آن‌ها جلوگیری شود.

تسریع در پیشرفت‌های علمی

به طرز جالبی، آمودی استدلال می‌کند که برای کاربردهای پایین‌دستی مانند زیست‌پزشکی، خطر نه در نظارت کم، بلکه در نظارت زیاد است. او می‌ترسد سازمان‌هایی مثل FDA و EMA که معمولاً ۷ تا ۸ سال برای تأیید داروها زمان می‌برند، تبدیل به گلوگاه برای علمی شوند که توسط AI شتاب یافته است. AI ممکن است این فناوری‌ها را ایمن‌تر و پیش‌بینی‌پذیرتر کند و بدین ترتیب مفروضات بدبینانه رگولاتورهای فعلی را به چالش بکشد.

او پیش‌بینی می‌کند AI نرخ ورود کاندیداهای دارویی به خط تولید را افزایش می‌دهد، پروفایل‌های ایمنی را از طریق درک بهتر بیولوژیکی بهبود می‌بخشد و دسته‌های کاملاً جدیدی از درمان‌ها ایجاد می‌کند (مشابه ظهور آنتی‌بادی‌ها، پپتیدها و سلول‌درمانی). برای جلوگیری از انسداد سیستم، او توصیه می‌کند رگولاتورها شبیه‌سازی‌های AI را برای موارد زیر بپذیرند:

• مدل‌سازی فارماکودینامیک و فارماکونیتیک (PD/PK).
• پیش‌بینی سم‌شناسی برای جایگزینی تست‌های حیوانی روی چندین گونه.
• تعیین دوز مصرفی برای کاهش نیاز به محدوده‌های دوز بزرگ در آزمایشات.
• اعتبارسنجی بیومارکرها از طریق تحلیل مجموعه‌داده‌های بزرگ.
• بازوهای کنترل مصنوعی (Synthetic control arms) در آزمایشات بالینی برای کاهش نیاز به جذب شرکت‌کننده.
• نقاط پایانی جایگزین (Surrogate endpoints)، به‌ویژه برای تخریب عصبی و پیری.

فراتر از این‌ها، او پیشنهاد می‌کند FDA و EMA مکانیسم‌های رادیکال‌تر و منعطف‌تری را برای تأیید شتاب‌یافته زمانی که مداخلات «به طور غیرمنتظره» عمل می‌کنند، اتخاذ کنند. او اشاره می‌کند که اصلاح تأییدیه‌های زیست‌پزشکی می‌تواند به دفاع بیولوژیکی کمک کرده و سلامت روان را بهبود بخشد که اثر تثبیت‌کننده‌ای بر جامعه خواهد داشت.

حفاظت از آزادی‌های مدنی

آمودی هشدار می‌دهد AI می‌تواند ابزار نهایی برای استبداد باشد و به دولت‌ها اجازه دهد نظارت‌های دموکراتیک را دور بزنند. او به ریسک ارتش‌های پهپادی کاملاً خودکار اشاره می‌کند که دستورات غیرقانونی را اجرا می‌کنند، زیرا ماشین‌ها فاقد اعتراض اخلاقی هستند که یک انسان آموزش‌دیده حرفه‌ای ممکن است داشته باشد. او همچنین از AI نظارتی هشدار می‌دهد که می‌تواند اطلاعات موجود در دسترس را در مقیاس عظیم تحلیل کند تا خصوصی‌ترین جزئیات زندگی یک شهروند را استخراج کند؛ توانایی‌ای که در قوانین فعلی آزادی‌های مدنی پیش‌بینی نشده است.

برای جلوگیری از این اتفاق، او پیشنهاد می‌دهد:

• قوانین پاسخگویی: سلاح‌های خودکار باید به پاسخگویی قانون اساسی و سلسله‌مراتب فرمان (مثلاً دستورات دادگاه) پاسخ دهند؛ به گونه‌ای که قوه قضائیه یک «کلید خاموش» داشته باشد یا سیستم‌ها برای جستجوی مقام نظارتی مشروع آموزش ببینند.
• ممنوعیت‌های داخلی: ممنوع کردن استفاده از سلاح‌های کاملاً خودکار علیه آمریکایی‌ها در هر دو زمینه نظامی و اجرای قانون، هرچند ضرورت آن‌ها را برای دفاع در برابر دشمنان خارجی مانند روسیه در اوکراین می‌پذیرد.
• بستن loophole دلالان داده: جلوگیری از خرید داده‌های خصوصی توسط دولت از ارائه‌دهندگان اینترنت برای تحلیل‌های انبوه؛ شکافی در حفاظت از حریم خصوصی که AI آن را بسیار افشاگرتر می‌کند.
• برابری حقوقی AI: اعطای حق دسترسی شهروندان به مشاور حقوقی AI که حداقل به اندازه AI مورد استفاده دولت علیه آن‌ها توانمند باشد؛ به عنوان گسترشی از متمم ششم، حفاظت‌های دادرسی عادلانه یا قانون رویه اداری.

او همچنین تأکید می‌کند که شرکت‌ها می‌توانند به «شبه-دولت» تبدیل شوند، همان‌طور که در عصر طلایی یا شرکت هند شرقی دیده شد. او به «تراست منافع بلندمدت» (Long-Term Benefit Trust) آنتروپیک — یک نهاد حاکمیتی مستقل — به عنوان مدلی برای ایجاد تفکیک قدرت و پاسخگویی در نهادهای خصوصی AI اشاره می‌کند.

ائتلاف ژئوپلیتیکی

در نهایت، آمودی AI را یک بازنشانی ژئوپلیتیکی شبیه به اختراع سلاح‌های هسته‌ای می‌بیند. او استدلال می‌کند ملتی با یک «کشور مجازی متشکل از ۱۰۰ میلیون نابغه» برتری مطلق بر ملتی خواهد داشت که حتی سه سال عقب‌تر است. در این سناریو، ۱۰ میلیون نابغه می‌توانند روی استراتژی نظامی، ۱۰ میلیون روی تولید پهپاد، ۱۰ میلیون روی R&D سلاح، ۱۰ میلیون روی اطلاعات و ۱۰ میلیون روی علوم عمومی تمرکز کنند؛ این شکاف معادل رویارویی تفنگداران جنگ جهانی دوم با شمشیرزنان قرون وسطاست.

او خواستار ائتلافی جهانی از دموکراسی‌هاست که تجهیزات ساخت نیمه‌هادی (SME) و تراشه‌ها را به اشتراک بگذارند و آن‌ها را از دشمنان دریغ کنند. این ائتلاف در موارد زیر هماهنگ خواهد بود:

• مدیریت زنجیره تأمین: گسترش و سخت‌گیرانه‌تر کردن کنترل‌های صادرات آمریکا بر تراشه‌های پیشرو و SME به چین، با حمایت قوانینی مانند MATCH و OVERWATCH.
• هماهنگی ریسک: به اشتراک گذاشتن استانداردهایی برای ریسک‌های بیولوژیکی، امنیت سایبری و خودمختاری برای کاهش بار صنعت و مختل کردن تلاش‌های تروریستی برای ساخت سلاح‌های بیولوژیکی.
• اشتراک منافع: هماهنگ کردن رژیم‌های تأیید پزشکی برای رساندن سریع‌تر داروهای مبتنی بر AI به کشورهای در حال توسعه.
• دفاع متقابل: تولید جمعی دفاعات سایبری تحت رهبری AI، پهپادهای مجهز به AI، تولیدات مبتنی بر AI، پردازش‌های طبقه‌بندی شده و R&D محور AI.
• رد استبداد: الزام اعضا به رد استبداد AI با فناوری‌های پیشرفته و فوق‌سرکوبگر و اجرای حفاظ‌ها علیه سرکوب مبتنی بر AI.
• همکاری اقتصاد کلان: هماهنگ کردن سیاست‌های تثبیت برای جلوگیری از تبدیل شدن بحران‌های اشتغال به بحران‌های سرایتی فرامرزی.

این تغییر در استراتژی، نشان‌دهنده فاصله گرفتن از رویکرد «آزاد گذاشتن بازار» سال‌های ۲۰۲۳-۲۰۲۴ است. آمودی معتقد است اضطراب فعلی مردم درباره AI یک نشانه سالم از پاسخگویی دموکراتیک است، نه یک مشکل روابط عمومی (PR) که باید با «بازاریابی» از بین برود. هدف اکنون این است که این نگرانی به یک چارچوب سیاستی غیرحزبی و آینده‌نگر تبدیل شود، پیش از آنکه منحنی نمایی، حاکمیت انسانی را کاملاً پشت سر بگذارد.

آنچه باید دید این است که آیا دولت ایالات متحده و متحدانش واقعاً می‌توانند یک محاصره زنجیره تأمین و یک بازنگری نظارتی را با سرعتی که آمودی می‌طلبد، هماهنگ کنند. شما باید پذیرش قانون‌گذاری‌های MATCH و OVERWATCH را به عنوان اولین تست‌های واقعی این استراتژی ائتلافی زیر نظر بگیرید.

گام بعدی شما

• بررسی پیشرفت قانون‌گذاری‌های MATCH و OVERWATCH در آمریکا به عنوان اولین تست این استراتژی ائتلافی.
• تحلیل اثرات احتمالی مدل‌های استدلالی بر سرعت تأیید داروهای جدید در سازمان‌های بهداشتی.
• مطالعه ساختار Trust در آنتروپیک برای درک نحوه جداسازی قدرت در شرکت‌های AI.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.