برنامهٔ ۵ مرحله‌ای داریو آمودی برای مهار سرعت مدل‌های پیشرو

تصور کنید ترمزهای یک اتوبوس در حال ذوب شدن است، در حالی که راننده برای رسیدن به مقصد، سرعت را هر لحظه بیشتر می‌کند. داریو آمودی، مدیرعامل آنتروپیک (Anthropic)، معتقد است شکاف میان سرعت توسعه مدل‌های پیشرو و نهادهای نظارتی دقیقاً به همین اندازه خطرناک است. او استدلال می‌کند که این تفاوت فاحش، یک ریسک سیستماتیک ایجاد کرده است که تنها با یک پاسخ سیاستی ساختاریافته و رسمی قابل پیشگیری است تا از وقوع شکست‌های فاجعه‌بار جلوگیری شود.

به نقل از مقاله اخیر آمودی، مسئله اصلی یک عدم توازن بنیادین میان قابلیت‌های شتاب‌گیرنده هوش مصنوعی و نهادهای سیاست‌گذاری عمومی است؛ نهادهایی که اساساً برای تغییرات تکنولوژیک بسیار کندتر طراحی شده‌اند. او معتقد است هوش مصنوعی زاینده (Generative AI) — شبیه به موتور جتی است که هر ثانیه شتاب می‌گیرد و قوانین قدیمی را پشت سر می‌گذارد — اکنون در حال تغییر قواعد بازی است و ساختارهای فعلی توان مقابله با این سرعت را ندارند.

این پیشنهاد در حالی مطرح می‌شود که صنعت از چت‌بات‌های آزمایشی به سمت سامانه‌های خودمختار یکپارچه حرکت می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی رویکرد آمودی به تمرکززدایی از قدرت هوش مصنوعی اشاره کردیم، این دستور کار جدید از درخواست‌های تئوریک ایمنی فراتر رفته و یک نقشه راه قانون‌گذاری عینی ارائه می‌دهد. این تغییر رویکرد را می‌توان شبیه به گذار از یک توافق کلی مبنی بر «ماشین‌ها باید ایمن باشند» به ایجاد یک سازمان رسمی مانند وزارت حمل‌ونقل با استانداردهای سخت‌گیرانه تست تصادف دانست.

زمینهٔ رشد نمایی هوش مصنوعی

بر اساس مستندات «سیاست در برابر رشد نمایی هوش مصنوعی»، هدف آمودی متوقف کردن توسعه هوش مصنوعی نیست. در عوض، این یک استدلال استراتژیک برای تنظیم سرعت استقرار پیشرفته‌ترین سامانه‌هاست تا مزایای بالقوه آن‌ها حفظ و در عین حال ریسک‌ها کاهش یابد. او در این مقاله از شعارهای کلی و گسترده درباره «ایمنی هوش مصنوعی» فاصله گرفته و وارد قلمرو حاکمیت دقیق و جزئی شده است.

برای کسب‌وکارهایی که ابزارهای هوش مصنوعی را به کار می‌گیرند، پیام فوری این است که قوانین، حفاظ‌ها و شرایط اقتصادی پیرامون مدل‌های قدرتمند ممکن است به‌سرعت تغییر کند. از آنجا که سیاست‌گذاران در واکنش به پیشرفت‌های فنی سریع‌تر عمل خواهند کرد، محیط عملیاتی برای ارائه‌دهندگان هوش مصنوعی — و به تبع آن، مشتریان آن‌ها — به‌طور مداوم تکامل خواهد یافت و تغییر خواهد کرد.

دستور کار سیاستی ۵ مرحله‌ای

آمودی در مقاله ژوئن ۲۰۲۶ خود، پنج حوزه سیاستی متصل به هم را تعریف می‌کند. او استدلال می‌کند که جامعه پیش از آنکه کاربردهای حیاتی و اثرگذار مدل‌های پیشرو به امری روتین تبدیل شوند، به ظرفیت بیشتری برای ارزیابی و حاکمیت بر آن‌ها نیاز دارد. او ایمنی مدل را نه یک مسئله فنی ایزوله، بلکه یک چالش سیستماتیک می‌بیند:

• تنظیمات و ایمنی عمومی: آمودی مدلی شبیه به سازمان هواپیمایی فدرال (FAA) را برای هوش مصنوعی پیشنهاد می‌دهد. این مدل شامل تست‌های اجباری توسط شخص ثالث برای مدل‌های پیشرو و اعطای اختیار قانونی به دولت‌ها برای مسدود کردن هرگونه استقراری است که در تست‌های ایمنی شکست بخورد. این رویکرد یک فرآیند رسمی برای ارزیابی توانمندترین سامانه‌ها پیش از دسترسی عموم ایجاد می‌کند.
• اقتصاد کلان و سیاست‌های مالیاتی: این برنامه خواستار جمع‌آوری داده‌های دقیق و سخت‌گیرانه درباره جایگزینی مشاغل توسط هوش مصنوعی است. آمودی تأکید می‌کند که مداخلات اقتصادی باید بر اساس داده‌های اندازه‌گیری شده باشد، نه بر اساس فرضیات خوش‌بینانه یا هشداردهنده؛ چرا که اثرات هوش مصنوعی فراتر از قابلیت‌های نرم‌افزاری و در کل اقتصاد گسترده است.
• شتاب‌بخشی به اثرات مثبت: هدف این بخش مدیریت فناوری‌های پایین‌دستی است، به‌گونه‌ای که پیشرفت‌های مفید بدون تأخیر غیرضروری پیش بروند. این حوزه تلاش می‌کند مزایای بالقوه هوش مصنوعی را در کنار نیاز به مدیریت ریسک‌های مرتبط قرار دهد.
• دولت و آزادی‌های مدنی: این ستون بر رابطه در حال تکامل میان افراد و نهادها تمرکز دارد. تمرکز اصلی بر حاکمیت، حقوق مدنی و پاسخگویی است تا اطمینان حاصل شود که استفاده از هوش مصنوعی منجر به تضعیف آزادی‌های فردی نمی‌شود.
• رهبری دموکراسی‌ها: آمودی خواستار تشکیل ائتلافی از کشورهای دموکراتیک برای هماهنگی سیاست‌های هوش مصنوعی، تأمین امنیت زنجیره تأمین و ایجاد دفاع جمعی در برابر رقبای استراتژیک است. او توسعه هوش مصنوعی را یک مسئله استراتژیک بین‌المللی و موضوعی مرتبط با امنیت ژئوپلیتیک می‌بیند.

تفکیک مدل‌های پیشرو از هوش مصنوعی روزمره

آمودی به‌دقت میان «مدل‌های پیشرو» (Frontier Models) — یعنی سامانه‌هایی که در لبه قابلیت‌های فنی قرار دارند — و ابزارهای تثبیت‌شده‌ای که کسب‌وکارها روزانه استفاده می‌کنند، تمایز قائل می‌شود. شرکتی که از یک مدل موجود برای پیش‌نویس متون، جست‌وجو، پشتیبانی مشتری یا تحلیل‌های داخلی استفاده می‌کند، هدف این محدودیت‌های سخت‌گیرانه نیست.

با این حال، این قوانین به‌طور اجتناب‌ناپذیری به لایه‌های پایین‌تر نفوذ کرده و اثرگذار خواهند بود. اگرچه تمایز مهم است، اما تأثیرات متصل به هم هستند:

• در دسترس بودن قابلیت‌ها: اگر یک توسعه‌دهنده به‌دلیل شکست در تست ایمنی از انتشار یک ویژگی خاص منع شود، آن قابلیت هرگز به دست کاربر نهایی یا کسب‌وکارها نمی‌رسد.
• مستندات فروشنده: تغییر در الزاماتی که ارائه‌دهندگان برای مستندسازی ایمنی دارند، مستقیماً نوع و کیفیت اطلاعاتی را که کسب‌وکارها می‌توانند از فروشندگان خود انتظار داشته باشند، تغییر می‌دهد.
• دسترسی به مدل: تغییر در قوانین مربوط به توسعه‌دهندگان مدل‌ها می‌تواند بر این اثر بگذارد که کدام مدل‌های خاص و کدام ویژگی‌ها در بازار در دسترس باشند.

عملیاتی کردن پذیرش هوش مصنوعی

برای رهبران کسب‌وکار، این مقاله سیگنالی است که پذیرش هوش مصنوعی نمی‌تواند در خلأ سیاستی رخ دهد. آمودی پیشنهاد می‌کند تاب‌آورترین راه برای پیاده‌سازی هوش مصنوعی، استفاده از گردش‌های کاری هدفمند و قابل بازبینی است. تیم‌ها باید به‌جای اینکه دسترسی به یک مدل قدرتمندتر را به عنوان هدف نهایی ببینند، بر تعریف دقیق وظایفی تمرکز کنند که در آن هوش مصنوعی به انسان کمک می‌کند یا تلاش‌های تکراری را کاهش می‌دهد.

برای اینکه پذیرش هوش مصنوعی کاربردی و قابل بازبینی باقی بماند، کسب‌وکارها باید مکانیزم‌های زیر را در نظر بگیرند:

• شناسایی وظیفه: تعیین دقیق و شفاف وظیفه‌ای که ابزار هوش مصنوعی قرار است آن را بهبود بخشد.
• نظارت انسانی: حفظ بازبینی انسانی در هر گردش کاری که خروجی غلط آن می‌تواند به‌طور مادی بر مشتریان، کارکنان یا تصمیمات حیاتی اثر بگذارد.
• ثبت داده‌ها: ثبت دقیق اینکه چه داده‌هایی به سرویس هوش مصنوعی ارائه شده است و تعیین اینکه کدام تیم مسئولیت مدیریت این گردش کار را بر عهده دارد.
• ممیزی قابلیت اطمینان: بررسی منظم اینکه آیا تغییرات در محصول ارائه‌دهنده، مفید بودن یا اعتبار گردش کار تثبیت‌شده را تغییر داده است یا خیر.
• ردیابی سیاست‌ها: نظارت مستمر بر تحولات قانونی که ممکن است بر در دسترس بودن ویژگی‌های مدل‌های پیشرو اثر بگذارد.

مخاطرات اقتصادی

یکی از مهم‌ترین چرخش‌ها در این برنامه، نحوه برخورد با مسئله اشتغال است. آمودی به‌جای پذیرش از دست رفتن شغل‌ها به‌عنوان یک پیامد اجتناب‌ناپذیر، آن را یک پرسش سیاستی می‌بیند که نیاز به اندازه‌گیری فعال دارد. او خواستار داده‌های بهتر درباره جابجایی نیروی کار ناشی از هوش مصنوعی و مداخلات حمایتی برای اشتغال است.

برای مدیران، این یعنی عبور از نگاه‌های صفر و یکی (سیاه و سفید) به اتوماسیون. آن‌ها باید به‌جای ترس یا خوش‌بینی مطلق، بپرسند کجا هوش مصنوعی می‌تواند کار را تقویت کند (Augment) و کجا نیاز به بازطراحی کامل نقش شغلی، آموزش‌های جدید یا پاسخگویی شفاف‌تر است. این رویکرد، اثرات اقتصادی تجمعی هوش مصنوعی را به یک مسئله حاکمیت عمومی تبدیل می‌کند. آمودی با درخواست داده‌های بهتر درباره جابجایی نیروی کار، به دنبال چارچوبی است که در آن دولت، و نه فقط شرکت‌ها، مدیریت انتقال نیروی کار را بر عهده بگیرد.

نگاه به آینده

این چارچوب سیاستی در حال حاضر یک «دستور کار» است و نه قانونی که تصویب شده باشد. با این حال، این متن دقیقاً نقاط اصطکاکی را شناسایی می‌کند — تست‌ها، پاسخگویی و آزادی‌های مدنی — که احتمالاً بر موج بعدی قانون‌گذاری‌های هوش مصنوعی حاکم خواهد بود. بخش‌های مربوط به آزادی‌های مدنی و رهبری دموکراتیک، این دستور کار را گسترده‌تر کرده و هوش مصنوعی پیشرو را به موضوعی در سطح پاسخگویی عمومی و هماهنگی ژئوپلیتیک تبدیل می‌کند.

منتظر پیشنهادهای قانون‌گذاری آتی از سوی آنتروپیک در مورد تست مدل‌های پیشرو و چارچوب‌های جابجایی شغلی باشید، زیرا این‌ها اولین متون قانونی عینی برای این چشم‌انداز خواهند بود. اگر تیم شما در حال گذار از آزمایش‌های پراکنده هوش مصنوعی به استفاده‌های عملیاتی تکرارپذیر است، Scalevise می‌تواند به شما کمک کند تا ابزارهای امیدوارکننده را به گردش‌های کاری با اهداف روشن، نظارت انسانی منطقی و ارزش تجاری قابل اندازه‌گیری تبدیل کنید. خدمات مشاوره هوش مصنوعی ما به کسب‌وکارها کمک می‌کند تا موارد کاربرد عملی را اولویت‌بندی کرده و برای پیاده‌سازی برنامه‌ریزی کنند، بدون اینکه شرایط در حال تغییر تکنولوژی و سیاست را از نظر دور کنند.

گام بعدی شما

• بررسی مجدد گردش‌های کاری فعلی و شناسایی نقاطی که خروجی مدل می‌تواند ریسک عملیاتی ایجاد کند.
• ایجاد یک سیستم ثبت داده‌ها (Logging) برای ردیابی ورودی‌ها و خروجی‌های مدل‌های پیشرو در سازمان.
• نظارت بر پیش‌نویس‌های قانونی مربوط به تست‌های ایمنی مدل‌ها برای پیش‌بینی تغییر در قابلیت‌های ابزارهای مورد استفاده.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.