نیویورک در ۱۰ نوامبر ۲۰۲۶ شبکه ایمنی هوش مصنوعی ۵۰۰ میلیون دلاری را با ۸۰ محقق مستقل فعال کرد. مرکز NYCAIRR در دانشگاه بینگامتون با قدرت محاسبه امپایر ای‌آی (Empire AI) مدل‌های مرزی (frontier models) را به‌صورت مستقل ارزیابی می‌کند.
شبکه محققان و دستور کار پژوهش
گرگ موریسیت (Greg Morrisett)، دکان کورنل تک (Cornell Tech)، و ژانت وینگ (Jeannette Wing)، رئیس پژوهش دانشگاه کلمبیا (Columbia University)، دستور کار علمی را مشترک هدایت می‌کنند در حالی که محققان در موسسات خود باقی می‌مانند. سرمایه‌گذاری اولیه ۳۰ میلیون دلاری از تام سکوندا (Tom Secunda)، بنیان‌گذار مشارکت بلومبرگ ال‌پی، و ۲۵ میلیون دلار از دانشگاه دولتی نیویورک (SUNY) تامین شده بود.
دستور کار پژوهش شامل موارد زیر است:
- نحوه عملکرد سیستم‌های پیشرفته
- روش‌های تست ایمنی و امنیت آن‌ها
- آیا رفتار آن‌ها با طراحی مقصود هم‌خوانی دارد
- کاربرد مسئولانه هوش مصنوعی در کشف علمی
حمله استخدام ملی متخصصان در حوزه‌های زیر را هدف قرار داده:
- نظریه ریاضی
- روش‌های رسمی و تأیید
- سیستم‌های عامل‌محور (agentic) و پیچیده
- امنیت سخت‌افزاری و حریم خصوصی
- تفسیرپذیری (interpretability) و همراستاسازی (alignment)
- هوش مصنوعی علمی و بیوآمنی
گورنر کاتی هاکول (Kathy Hochul) کار را به عنوان کنترلی بر خودگزارشی توسعه‌دهندگان چارچوب کرد: «شرایط بسیار حساس است تا فقط از قول شرکت‌های هوش مصنوعی راضی شویم.»
قانون RAISE و الزامات نیویورک ایمنی هوش مصنوعی
هم‌زمان با راه‌اندازی پژوهش، نیویورک پورتال RAISE را تحت قانون ایمنی و آموزش هوش مصنوعی مسئول (RAISE Act) باز کرد. تمام توسعه‌دهندگان مدل‌های مرزی فعال در ایالت باید تا ۱ ژانویه ۲۰۲۷ ثبت‌نام کنند. دفتر نوآوری دیجیتال، حکمرانی، یکپارچگی و اعتماد (DIGIT) در وزارت خدمات مالی قانون را اجرا می‌کند.
توسعه‌دهندگان بزرگ موظفیت‌های اضافه دارند:
- انتشار چارچوب‌های ایمنی از ژانویه ۲۰۲۷
- گزارش حادثه‌های ایمنی حیاتی به DIGIT در ۷۲ ساعت
- ارزیابی‌های سه‌ماهه ریسک فاجعه‌بار (catastrophic-risk assessments)
- بیانات افشاگری حداقل هر دو سال یک‌بار
همه توسعه‌دهندگان مرزی باید حادثه‌های حیاتی را گزارش دهند و گزارش‌های شفافیت مدل (model transparency reports) منتشر کنند. اعلام ۲۱ سپتامبر ۲۰۲۶ این الزامات را مشخص کرد.
NYCAIRR می‌تواند به درخواست ایالت تخصص و ارزیابی ارائه دهد، چارچوب‌های منتشرشده را مرور کند و الزامات قوی‌تر پیشنهاد نماید. با DIGIT برای بازبینی چارچوب‌های ایمنی توسعه‌دهندگان هماهنگی می‌کند. این سرمایه‌گذاری محاسباتی برای ارزیابی‌های NYCAIRR، تلاش‌های دیگر دولت‌ها برای استفاده از هوش مصنوعی در امنیت سیستم‌ها را یادآور می‌کند. تخصص و ارزیابی NYCAIRR برای ایالت، هم‌چون همکاری‌های بین‌المللی در امنیت هوش مصنوعی، یک مدل همکاری است.
تقسیم کار بین DIGIT و NYCAIRR
- DIGIT ثبت‌نام و گزارش‌گیری را مدیریت می‌کند
- NYCAIRR سیستم‌های پیشرفته را تست می‌کند و چارچوب‌های پشت افشاگری‌ها را بررسی می‌کند
- تفکیک ادارهٔ قانون‌گذاری از پشتیبانی فنی مستقل
- پژوهش برای دادن شواهد عینی به مقامات عمومی در تصمیمات ایمنی و پاسخگویی
- پشتیبانی از کاربردهای مسئول در پزشکی، کشف علمی و زیرساخت‌های حیاتی
زیرساخت امپایر ای‌آی
- ابتکار عمومی-اختصاصی (public-private initiative) ۵۰۰ میلیون دلاری
- حمایت از پژوهش هوش مصنوعی برای خیر عمومی
- محاسبه پیشرفته برای ارزیابی‌های NYCAIRR
- بودجه‌های اکثر ایمنی آکادمیک را قزم می‌کند
این ساختار ادارهٔ قانون‌گذاری را از پشتیبانی فنی مستقل جدا می‌کند. آیا این مدل شواهدی فراتر از انتشارهای خود شرکت‌ها تولید می‌کند، آزمون عملی خواهد بود وقتی موظفیت‌های ژانویه اجرا شوند.
پیامد برای شرکت‌ها
سیگنال روشن است: نیویورک ایمنی هوش مصنوعی را زیرساخت می‌داند، نه پیش‌فکری ثانویه. شرکت‌های مستقر مدل‌های مرزی در ایالت باید چارچوب‌های ایمنی و فرآیندهای پاسخ به حادثه را از الان آماده کنند.
نخستین چارچوب‌های ایمنی منتشرشده در ژانویه ۲۰۲۷ را رصد کنید. کیفیت آن افشاگری‌ها — و ارزیابی‌های مستقل NYCAIRR درباره آن‌ها — نشان خواهد داد که آیا این مدل نظارت فنی ایالتی می‌تواند مقیاس یابد.
گفتگو