تصور کنید افسر پلیسی که در یک محلهی فقیرنشین گشت میزند، دیگر بر اساس تجربه یا شهود تصمیم نمیگیرد، بلکه یک مغز دیجیتال متمرکز به او میگوید کجا برود و چه بنویسد. اگر امروز مدیر یک سازمان امنیتی هستید، باید بدانید که ابزارهای هوش مصنوعی دیگر فقط دستیار نیستند، بلکه در حال تبدیل شدن به استانداردهای اجباری برای اجرای قانوناند. تعدادی از غولهای فناوری در حال حاضر در رقابتی شدید هستند تا به مغز دیجیتال متمرکز برای اجرای قانون در آمریکا تبدیل شوند. از اتوماسیون کاغذبازیهای خستهکننده یک افسر گشت گرفته تا هدایت استقرار واحدهای تاکتیکی، شرکتهای Axon Enterprise و Motorola Solutions در حال حرکت به سمتی هستند که کل پشتهی فناوری پلیس (Police Technology Stack) را به انحصار خود درآورند.
این تحول در حالی رخ میدهد که ادارات پلیس آمریکا با کمبود مزمن نیروی انسانی و کاهش بودجه دستوپنجه نرم میکنند. طبق گزارشهای صنعتی، این سازمانها از «پلیس پیشبین» — که پس از شکستهای اولیه اکنون به اصطلاحی تابو تبدیل شده — فاصله گرفتهاند و به سمت «مراکز جرم لحظهای» (RTCC) و دستیارهای هوش مصنوعی زاینده (Generative AI) حرکت میکنند. این ابزارها وعده میدهند که شهود انسانی را با جریانهای دادهای عینی و لحظهای جایگزین کنند.
در کنفرانس فناوری IACP که در ماه می در فورت ورث تگزاس برگزار شد، تمرکز بازاریابی و فروش بر اتوماسیون بخشهای روتین شغل بود. اینها اغلب مراحل حیاتی در فرآیندهای قانونی هستند. هدف این است که ماشینها «کارهای اداری» و خستهکننده، مانند صرف زمان برای پر کردن دقیق یک گزارش پلیس یا بررسی تاریخچه پرونده یک مظنون را بر عهده بگیرند تا افسران بتوانند بر کارهای معنادارتر تمرکز کنند. با این حال، در دنیای اجرای قانون، اتوماسیون همین مراحل به ظاهر بیضرر، میتواند پیامدهای عظیمی بر زندگی انسانها داشته باشد.
اما این انتقال در یک خلأ نظارتی کامل رخ میدهد. بدون نظارت فدرال یا استانداردهای صنعتی، ادارات پلیس اغلب مجبورند به ادعاهای فروشندگان اعتماد کنند که الگوریتمهایشان ایمن و دقیق است. همانطور که آبرم آیانا، کاپیتان پلیس بروکهون در جورجیا، اشاره میکند، بخش بزرگی از این صنعت از «ترفندهای فروش» تشکیل شده است که عملاً آنچه را که وعده میدهند، تحویل نمیدهند.
ظهور انحصار هوش مصنوعی
شرکت Axon (تزِر سابق) با تهاجم کامل در حال گسترش قلمرو خود است. این شرکت پیش از این بازار شوکرهای الکتریکی، دوربینهای روی لباس و سامانههای اتوماتیک خواندن پلاک (ALPR) را در اختیار داشت. در اوایل سال ۲۰۲۴، Axon شرکت Fusus را خرید، که یک شرکت فناوری نظارتی بود، تا پلتفرم Axon Fusus را روانه بازار کند؛ یک پلتفرم RTCC که دادههای دیسپچ ۹۱۱، دوربینهای مداربسته (CCTV) و اسکنرهای پلاک را در یک نقطه متمرکز میکند.
برای قفل کردن مشتریان و ایجاد وابستگی، Axon در اواخر سال ۲۰۲۴ طرح «AI Era Plan» را معرفی کرد. این مدل اشتراکی به سازمانها اجازه میدهد با پرداخت یک مبلغ سالانه ثابت، به ابزارهای فعلی هوش مصنوعی مانند Draft One و سایر ابزارهایی که شرکت در آینده عرضه میکند، دسترسی داشته باشند. این استراتژی بسیار موفق بوده است: درآمد محصولات هوش مصنوعی Axon سال به سال ۷۰۰ درصد رشد کرده است. همچنین، طبق گزارشهای مالی شرکت، اشتراکهای AI Era Plan بین ربع اول سال گذشته تا همین زمان از سال جاری ۱۴۰ درصد افزایش یافته است. جاشوا ایسنر، رئیس Axon، صراحتاً اعلام کرد: «ما مصمم هستیم تبدیل به شرکت هوش مصنوعی در حوزه ایمنی عمومی شویم».
در طرف دیگر، Motorola Solutions برای تصاحب همین قلمرو رقابت میکند. این شرکت به همراه Axon و شرکت Flock Safety، در حال ایجاد یک چرخه بسته هستند که در آن هم سختافزار را تامین میکنند و هم هوش مصنوعی تحلیلگر را فراهم میآورند. این ساختار به آنها اجازه میدهد تا قراردادهای «تأمین تکمنبع» (Sole-source procurement) ببندند. این قراردادها به آنها اجازه میدهد محصولات جدید خود را بدون نیاز به برگزاری مناقصه و رقابت با سایر فروشندگان به ادارات پلیس بفروشند و به این ترتیب، کل زنجیره از جمعآوری داده در صحنه جرم تا تصمیمگیری استراتژیک را به انحصار بگیرند.
نمایشگاه ابزارهای اتوماسیون
در کنفرانس IACP، ابعاد این «تب طلا» با تمام وضوح قابل مشاهده بود. رویداد در یک سازه عظیم از شیشه و آجر برگزار شد. در نمایشگاه، طیف گستردهای از ابزارهای اتوماسیونی به نمایش درآمد که هدفشان جایگزینی حضور انسانی در محلهها بود:
- سختافزارهای نظارتی: دوربینهای تشخیص چهره، اسکنرهای اتوماتیک پلاک و پهپادها از طریق برنامههایی مانند Axon Air.
- هوش مصنوعی ارتباطاتی: چتباتهایی که برای پاسخگویی به تماسهای غیر اضطراری ۹۱۱ طراحی شدهاند.
- سامانههای تشخیص: پلتفرمهای شناسایی صدای شلیک گلوله.
- ابزارهای اداری: ابزارهای نویسندگی گزارش بر پایه هوش مصنوعی و مغزهای دیجیتال متمرکز برای تخصیص منابع.
این هجوم تکنولوژی، سرمایهگذاران خارجی را نیز به شدت جذب کرده است. امبر شروادر، کارآفرین حوزه تکنولوژی، مشاهده کرد که حدود یکچهارم بازدیدکنندگان در فضای نمایشگاه، از «شرکتهای سرمایهگذاری» (Equity firms) بودند که به دنبال سرمایهگذاری روی آخرین فناوریهای نظارتی میگشتند. بسیاری از این تلاشها برای تجاریسازی سریع، با چالشهای عملیاتی مواجه میشوند؛ چنانکه بسیاری از پروژههای سازمانی هوش مصنوعی به دلیل شکافهای هماهنگی در مسیر اجرا شکست میخورند.
اتوماسیون گزارشها با Draft One
یکی از وسوسهانگیزترین ابزارها، Draft One است؛ دستیار نویسندگی Axon که از هوش مصنوعی زاینده استفاده میکند. مطالعهای در سال ۲۰۲۴ توسط Axon نشان داد که هر افسر به طور متوسط ۴۰ درصد از شیفت خود را صرف نوشتن گزارشات میکند. بسیاری از این گزارشها مربوط به حوادث پیشپاافتادهای مثل شکایات مربوط به سر و صدا یا توقفهای ترافیکی است. Draft One از نسخه تغییریافتهای از ChatGPT استفاده میکند که بهطور خاص برای تولید گزارشهای پلیسی آموزش دیده است تا صداهای ضبط شده از دوربینهای روی لباس را به روایتهای مکتوب تبدیل کند.
نوآ اسپیצר-ویلیامز، مدیر ارشد محصول در بخش هوش مصنوعی زاینده Axon، ادعا میکند که این ابزار «بدون توهم» (Hallucination-free) است، زیرا «سطح خلاقیت در آن به صفر رسیده است». با این حال، نتایج در دنیای واقعی متفاوت است. در یک حادثه در اوایل سال ۲۰۲۶، این هوش مصنوعی گزارش داد که افسری در ایالت یوتا به یک «قورباغه» تبدیل شده است! علت این بود که نرمافزار صدای فیلم «پرنسس و قورباغه» دیزنی را که در پسزمینه پخش میشد، به عنوان بخشی از واقعیت ضبط کرده بود.
اما موضوع نگرانکنندهتر، پاسخگویی قانونی است. وقتی یک افسر انسانی گزارشی را مینویسد، میتوان در دادگاه از او درباره وضعیت ذهنیاش یا دلیل گنجاندن یا حذف جزئیات خاصی بازجویی کرد. اما الگوریتمهای «جعبه سیاه» را نمیتوان مورد چنین بررسیهایی قرار داد. این چالش شفافیت، بحثهای گستردهتری را در مورد نقش نظارت انسانی در حاکمیت هوش مصنوعی ایجاد کرده است؛ برای مثال، تغییر استراتژیهای ایمنی در شرکتهایی مانند آمازون نشان میدهد که تکیه صرف به حضور انسان در چرخه تصمیمگیری (Human-in-the-loop) گاهی ناکارآمد است.
در ابتدا، Draft One پس از ارسال گزارش نهایی توسط افسر، روایت اولیه تولید شده توسط هوش مصنوعی را ذخیره نمیکرد. اسپیצר-ویلیامز اعلام کرد که این موضوع «بهصورت عمدی» و برای جلوگیری از ایجاد «سردرگمیهای افشای مدارک» برای مشتریان و دفاتر وکالت طراحی شده بود و اشاره کرد که گزارش «اصلاً در فضای ابری ذخیره نمیشد» تا نسخههای اضافی در اطراف پخش نشود. این به معنای آن بود که وکلا و قضات نمیتوانستند تشخیص دهند که آیا یک خطای واقعی، اشتباه افسر بوده یا توهم هوش مصنوعی.
شرکت Axon تنها در دسامبر ۲۰۲۴ سیستم را بهروزرسانی کرد تا ادارات پلیس بتوانند «روایت اصلی و ویرایشنشده تولید شده توسط هوش مصنوعی را حفظ کرده و به آن دسترسی داشته باشند». سخنگوی Axon، ویکتوریا کیو، stated کرد که این تغییر در پاسخ به انتظارات شفافتر سازمانها، دادستانها و قانونگذاران صورت گرفته است. براندون گرت، استاد حقوق دانشگاه دوک، هشدار میدهد که استفاده از مدلهای زاینده — که اساساً برای «خلق کردن» طراحی شدهاند — برای مستندسازی صحنه جرم «بسیار بسیار نگرانکننده» است. او اشاره کرد که هیچ دادگاهی هرگز به یک افسر نمیگوید که «خلاق باش و داستانی» درباره صحنه جرم بسازد.
مراکز جرم لحظهای (RTCC)
استارتآپهایی مانند ForceMetrics نیز در حال ورود به این میدان هستند. جیسون تروپی، بنیانگذار ForceMetrics و مامور سابق FBI متخصص در جرایم سایبری، این ابزارها را راهکاری ضروری برای مدیریت «بیشباری اطلاعات» (Information Overload) توصیف میکند.
ادارات پلیس مدرن در دادهها غرق شدهاند. بر اساس متن جلسه کمیته ایمنی عمومی در سال ۲۰۱۹، اداره پلیس نیویورک (NYPD) در هر هفته حدود دو سال footage دوربین روی لباس جمعآوری میکرد. تروپی استدلال میکند که سیستمهای ثبت سوابق فعلی، از پروندههای آزادی مشروط گرفته تا گزارشهای تماسات اضطراری، «اساساً قدیمی و منسوخ» هستند.
ابزارهایی مانند Velocity به عنوان یک مرکز جرم لحظهای (RTCC) عمل میکنند. این مراکز که بیش از ۲۰ سال پیش توسط NYPD پذیرفته شدند، جریانهای متعددی از جمله CCTV، دیسپچ ۹۱۱ و اسکنرهای پلاک را ترکیب میکنند تا افسران را پیش از رسیدن به صحنه، بهطور کامل briefed کنند. تروپی پیشنهاد میکند که این کار مانع از آن میشود که افسران با «شهود و تفنگ» (Guts and Guns) — استعارهای از برخوردهای خشونتآمیزی که منجر به مرگ میشود — وارد صحنه شوند. او ادعا میکند که «اتفاقات ناگواری» که به اعتماد عمومی آسیب زده، بهویژه در دوران پاندمی، را میتوان به فقدان یک «رویکرد دادهمحور» نسبت داد.
شبح پلیس پیشبین
این دوران جدید تحت تأثیر شکست ابزارهای اولیه «پلیس پیشبین» مانند PredPol (که اکنون Geolitica نامیده میشود) و CompStat است. این سامانهها سعی داشتند از آمارهای بدون سوگیری برای کاهش قضاوتهای خطای انسانی استفاده کنند، اما در عمل اغلب مشکلاتی را که میخواستند حل کنند، تشدید کردند.
در پی بحران مالی ۲۰۰۸، چارلی بک، رئیس پلیس لسآنجلس، از الگوریتمهای خرید شخصیسازی شده والمارت و أمازون الهام گرفت. او معتقد بود ادارات پلیس باید از ابزارهای مشابهی برای پیشبینی جرم استفاده کنند. از دهه ۲۰۱۰، این برنامهها در سراسر کشور اجرا شدند.
سامانه PredPol از الگوریتمی استفاده میکرد که در اصل برای پیشبینی توزیع جغرافیایی پسلرزههای زلزله طراحی شده بود. منطق این بود که اگر الگوی جرم با منطقه خاصی همبستگی شدید داشته باشد، احتمالاً در همانجا ادامه مییابد. این روش شکست خورد زیرا هوش مصنوعی سوگیریهای اجتماعی، سیاسی و نژادی را که باعث نرخ گزارشهای بالاتر در محلههای فقیرتر (که عمدتاً ساکنان رنگینپوست دارند) میشد، درک نمیکرد. سیستم صرفاً دادهها را میبلعید و یک چرخه خودتداومبخش از «پلیسباری بیش از حد» (Over-policing) ایجاد میکرد.
- مطالعه اوکلند: در سال ۲۰۱۶، محققانی به نامهای کریستین لوم و ویلیام آیزاک یک الگوریتم پیشبین را با استفاده از دادههای جرم مواد مخدر اداره پلیس اوکلند آزمایش کردند. هوش مصنوعی توصیه کرد که پلیس «تقریباً بهطور انحصاری به محلههای کمدرآمد و اقلیتها» اعزام شود، در حالی که دادههای بهداشت عمومی نشان میداد مصرف مواد مخدر غیرقانونی بهطور گسترده در سراسر شهر توزیع شده است.
- واکنش قانونگذاران: تا سال ۲۰۲۴، چهار سناتور دموکرات آمریکا از وزارت دادگستری خواستند تمام کمکهای مالی برای پلیس پیشبین را متوقف کند. آنها به شواهدی استناد کردند که نشان میداد این برنامهها «مستعد پیشبینی بیش از حد نرخ جرم در محلههای سیاهپوستان و لاتینها و پیشبینی کمتر در محلههای سفیدپوستان هستند».
شکاف شفافیت
کارشناسان حقوقی استدلال میکنند که برچسب «دادهمحور» تنها یک نقاب است. نینا لوشکاجیان از دانشگاه NYU اشاره میکند که پلیس سالها قبل از فراخوانهای سال ۲۰۲۰ برای «توقف بودجه پلیس» (Defund the Police)، از الگوریتمهای پیشبین استفاده میکرد. او خاطرنشان میکند که این سیستمهای الگوریتمیک در آن زمان نتوانستند جلوی برخوردهای خشونتآمیز را بگیرند و نباید انتظار داشت اکنون این کار را بکنند.
علاوه بر این، چون این الگوریتمها «جعبههای سیاه» اختصاصی هستند، نمیتوان از آنها بازجویی کرد. پروفسور آنخل دیاز از مدرسه حقوق لایولا هشدار میدهد که با جمعآوری دادههای بیشتر، برای دولت راحتتر میشود که «دلیلی را برای هدف قرار دادن» افراد مهندسی معکوس کند. او معتقد است هرچه دادههای بیشتری در دسترس باشد، تبدیل یک شهروند به موضوع یک بازجویی آسانتر میشود. او هشدار میدهد که استفاده از این سیستمها میتواند آینده را دقیقاً شبیه به گذشته کند.
طبق گفته کیتی کینسی از پروژه Policing، چالش اصلی این است که اطمینان حاصل شود دادههای تغذیه شده به مراکز RTCC قابل اعتماد هستند. او اشاره میکند که اگرچه رویکرد مبتنی بر شواهد مطلوب است، اما «همه دادهها یکسان خلق نشدهاند». در عصری که داده «واحد پول تصمیمگیری» است، درک محدودیتهای منابع داده بسیار حیاتی است.
برای افسرانی که در میدان هستند، جذابیت این ابزارها همچنان بالاست. همانطور که گروهبان جان مکی از اداره پلیس آون (که از ابزار Field Notes شرکت Truleo استفاده میکند) میگوید، افسران برای اینکه «پشت یک کیبورد بنشینند» پلیس نشدند.
این میل به بهرهوری، صنعت را به سمتی میبرد که ماشینها فقط کمک نمیکنند، بلکه کل فرآیند اجرای قانون را تعریف میکنند. این تغییر به این معناست که سوگیریهای گذشته در حال تبدیل شدن به بخشی از معماری نرمافزاری آینده هستند. این «ترن هوش مصنوعی»، همانطور که استفن ردفیرن، رئیس پلیس بولدر، توصیف میکند، تا زمانی که صنعت سهم بازار را بر ایمنی ترجیح دهد، به حرکت ادامه خواهد داد.
گام بعدی شما
- اگر در حوزه حقوق یا امنیت فعال هستید، بررسی کنید که آیا ابزارهای مستندسازی شما قابلیت ذخیره «نسخه اولیه» (Raw Output) را دارند یا خیر.
- در تحلیل ابزارهای نظارتی، تفاوت بین «دادههای توصیفی» (چه اتفاقی افتاد) و «دادههای پیشبین» (چه اتفاقی خواهد افتاد) را به دقت تفکیک کنید.
- دنبال کنید که آیا استانداردهای فدرال برای «شفافیت الگوریتمهای حمایتی» در سال ۲۰۲۶ تصویب میشوند یا خیر.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell و پردازش در لبه برای سیستمهای نظارتی مراجعه کنید.
گفتگو