تصور کنید پلیسی در شهر شما، بدون اینکه نام یا پلاک شما را داشته باشد، صرفاً چون سه بار در هفته به سه بانک مختلف سر زدهاید، شما را به عنوان «مشکوک» علامتگذاری کند. این کابوس حریم خصوصی اکنون با افشای کدهای داخلی شرکت Flock Safety به واقعیت تبدیل شده است.
بر اساس گزارش WIRED، این شرکت سیستمی به نام OS Investigate (که پیشتر Nightshift نامیده میشد) توسعه داده است که ادعاهای پیشین شرکت مبنی بر عدم توانایی در ردیابی افراد را به کلی رد میکند. در حالی که Flock پیشتر دوربینهای خود را ابزاری ساده برای یافتن خودروهای تحت تعقیب معرفی میکرد، نرمافزار جدید به پلیس اجازه میدهد بر اساس «چگونگی» و «میزان» تردد افراد، آنها را مورد اتهام قرار دهد، حتی اگر هیچ سابقه جنایی نداشته باشند.
این تحول در حالی رخ میدهد که این غول نظارتی با فشار سیاسی دوحزبی و موجی از تخریب دوربینها در شهرهای آمریکا روبروست؛ به طوری که در چندین شهر، دوربینها با اره بریده شده و لنز آنها رنگآمیزی شده است. طبق این گزارش، سیستم مذکور در حال حاضر توسط گروه کوچکی از شرکای انتظامی در حال آزمایش است.
سازوکار OS Investigate
این نرمافزار با ادغام شبکهای از دوربینها در بیش از ۶۰۰۰ جامعه، پروندههای پلیس، گزارشهای تماسهای ۹۱۱ و سوابق هویتی تجاری عمل میکند. این یکپارچگی به سیستم اجازه میدهد تا یک پلاک خودرو را به یک هویت کامل تبدیل کند، که شامل نام، آدرس منزل و حتی لیست اقوام میشود.
بررسیهای WIRED روی یک حافظه از بیش از ۴۵۰ فایل در وبسایت خود Flock، وجود ۴۵ ابزار هوش مصنوعی زاینده (Generative AI) — شبیه به دستیاری که میلیاردها داده را میخواند و حالا میتواند پاسخهای پیچیده تولید کند — را فاش کرد. این ابزارها به دادههای زیر دسترسی دارند:
- اسکن پلاکها و متادیتای دوربینها
- سوابق بازداشت و پروندههای قضایی
- نتایج آزمایشات بالستیک
- پایگاههای داده تجاری شامل شماره تأمین اجتماعی، تاریخ تولد، شماره تلفن و ایمیل
پرامپتهای نظارتی پیشفرض
سیستم دارای ۶۹ پرامپت (Prompt) — یا همان دستورات متنی برای هدایت مدل — پیشنویس است که افسران برای خودکارسازی جستوجوهای پیچیده از آنها استفاده میکنند. وقتی یک افسر پرامپتی را انتخاب میکند، متن آن در یک چتباکس قرار میگیرد و افسر میتواند پیش از ارسال، آن را بازبینی، ویرایش یا بازنویسی کند.
به نقل از مستندات لو رفته، یکی از این دستورات به پلیس اجازه میدهد شاهدان را با شناسایی خودروهایی که بیشترین تردد را در یک محله خاص طی یک بازه زمانی مشخص در ۱۴ روز گذشته داشتهاند، پیدا کند. در متن این پرامپت صراحتاً ذکر شده است که «خودروهای موجود در لیست سفید (Whitelisted) را شامل نخواهد شد».
دستور دیگر، هوش مصنوعی را موکول میکند تا تمام افرادی را که در دو سال اخیر بیش از دو بار برای هر جرمی (به جز جرایم مواد مخدر) بازداشت شدهاند لیست کند، خانههایشان را روی نقشه بیابد، گزارشهای تماسهای خدماتی برای آن آدرسها را استخراج کند و روی سه نفر اول، یک «بررسی جامع» (Workup) انجام دهد. در واقع، خودِ نرمافزار تصمیم میگیرد کدام سه نفر اولویت بیشتری برای تشکیل پرونده دارند.
در اصطلاح Flock، یک Workup در واقع یک استعلام پیشینه با یک دستور است. این فرآیند با نام و تاریخ تولد شروع شده و در مرحله اول خودروها و سوابق قبلی مشکوک را برمیگرداند و در صفحه دوم، اقوام، شماره تلفنها و حسابهای آنلاین فرد را نمایش میدهد.
شکار بر اساس الگو
۱۹ مورد از این دستورات به جای جستوجوی سوابق، بر «شکار الگوها» تمرکز دارند. ۱۴ مورد از اینها برای شروع، نیازی به پلاک، نام یا توصیف ندارند؛ افسر فقط مکان، بازه زمانی و یک «رفتار» را تعریف میکند. همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، وقتی کنترل روی ورودیها نباشد، خروجیها میتوانند به شدت سوگیرانه باشند.
مثالهایی از این جستوجوهای رفتاری عبارتند از:
- خودروهایی که طی سه روز به سه یا چند فروشگاه در یک شهر سر زدهاند
- خودروهایی که در یک هفته از چندین بانک بازدید کردهاند
- تردد بین ساعت ۱۲ شب تا ۵ صبح در چندین پمپ بنزین
- خودروهایی که یک شهر را ترک کرده و طی یک هفته بازگشتهاند
- خودروهایی که طی ۱۴ روز سفرهای رفت و برگشتی مکرر داشتهاند
- خودروهایی که به ترتیب از سه منطقه خاص عبور کردهاند
برای جلوگیری از شناسایی ترافیک تجاری، ابزاری برای حذف اتوبوسها، کامیونها، ونهای کاری و تریلرها تعبیه شده است. این یعنی راننده یک شرکت پخش که به ۵ فروشگاه میرود نادیده گرفته میشود، اما شهروندی عادی که همین مسیر را طی کند، به عنوان فرد مشکوک علامتگذاری میشود.
ردیابی «معاشران»
این هوش مصنوعی میتواند شبکههای اجتماعی را از طریق نزدیکی خودروها ترسیم کند. با تحلیل اینکه چه پلاکهایی در بازه زمانی دو دقیقهای در یک دوربین ظاهر شدهاند، سیستم «۳ معاشر برتر» یک هدف را شناسایی میکند. اگر دو ماشین سه بار یا بیشتر با یک آستانه اطمینان مشخص (که به طور پیشفرض روی ۰.۷۵ تنظیم شده) با هم دیده شوند، نرمافزار آنها را به عنوان همکار یا دوست علامت میزند. این یعنی با دادن یک پلاک، پلیس لیستی از حداکثر ۲۰ نفر مرتبط با آن فرد را دریافت میکند.
نوئل پیچاردو، افسر سابق پلیس پاتاکت در رودآیلند، که این پرامپتها را بررسی کرده بود، این قابلیت را «کاملاً دیوانهوار» توصیف کرده و معتقد است این ثابت میکند Flock واقعاً مردم را ردیابی میکند. پیچاردو در سال ۲۰۲۴ علیه این فناوری در برابر قانونگذاران ایالتی رودآیلند سخنرانی کرد. او بعدها به دلیل انتقاد از Flock و مدیریت دپارتمان در یک روزنامه محلی، به تعلیق ۳۰ روزه محکوم شد و در نهایت در حالی که دپارتمان در حال طی کردن مراحل اخراج او بود، استعفا داد.
فقدان نظارت و هزینههای انسانی
کدهای لو رفته نشان میدهند که حفاظهای امنیتی در این سیستم حداقلی هستند. اگرچه نرمافزار میتواند پیش از جستوجو دلیل آن را بپرسد، اما به نظر میرسد هیچ الزامی برای محتوا یا طول آن دلیل وجود ندارد. اگر دپارتمانی الزام کند که شماره پرونده وارد شود، سیستم تنها چک میکند که آن فیلد حداقل سه کاراکتر داشته باشد.
سخنگوی شرکت، پاریس لولبل، یافتههای این گزارش را تکذیب نکرده است، اما بیان کرد که این ابزار هنوز در حال توسعه است و قابلیتهای آن ممکن است تغییر کند. او OS Investigate را محصولی مجزا از فناوری استاندارد خواندن پلاک توصیف کرد که هدف آن کمک به بازرسان برای تحلیل دادههایی است که از قبل در اختیار دارند.
جِی استنلی از ACLU استدلال میکند که این استقرار شبیه به کشورهای نظارتی مانند چین است. توانایی ایجاد یک «حصار جغرافیایی» (Geofence) واقعی و پرسوجو درباره اینکه چه کسی در ماه گذشته برای ۱۰ دقیقه نزدیک یک فرد بوده، مقیاسی از نظارت را ایجاد میکند که پیش از این بیسابقه بود. این روند در راستای گسترش ابزارهای نظارتی است که در برخی مأموریتهای پیچیده نظارتی پهپادی، مدلهای پیشرو هنوز با شکستهای ۱۰۰ درصدی روبرو شدهاند، اما در سطح دادههای زمینی مانند Flock، اثرگذاری آنها بسیار سریعتر است.
علاوه بر این، نرمافزار Flock جستوجو بر اساس توصیفات ظاهری را ممکن میکند. یکی از پرامپتها به افسران اجازه میدهد سوابقی را جستوجو کنند که با توصیفی خاص — مثلاً «مرد، حدود ۱۸۰ سانت، هودی مشکی، تتو روی ساعد» — در نزدیکی یک مکان مطابقت داشته باشد. همچنین امکان محدود کردن این جستوجو با یک شعاع مشخص یا اشکال دلخواه ترسیم شده روی نقشه وجود دارد.
تاریخچه سوءاستفاده
این خطر با تاریخچهای از سوءاستفادهها تشدید میشود. تحلیل واشینگتن پست نشان داد ۵۰ افسر متهم شدند که از این سیستم برای ردیابی شریکهای سابق یا روابط عاطفی خود استفاده کردهاند. در یک مورد تکاندهنده، افسری در تگزاس از ۸۳ هزار دوربین برای یافتن زنی که سقط جنین کرده بود، استفاده کرد.
علاوه بر این، رگولاتورهای ایلینوی دریافتند که Flock با دادن دسترسی به گمرک و حفاظت مرزی آمریکا (CBP) به دوربینها در یک برنامه آزمایشی متوقف شده، قانون ایالتی را نقض کرده است. بررسیهای EFF روی مجموعهدادههای مربوط به بیش از ۱۲ میلیون جستوجو در ۱۰ ماه نشان داد که تقریباً ۲۰ درصد آنها تنها با عبارات مبهمی مثل «تحقیق»، «مشکوک» یا «استعلام» انجام شدهاند.
بیش از ۵۰ سازمان صدها جستوجو انجام دادند که در فیلد دلیل آنها به فعالیتهای اعتراضی اشاره شده بود. در حالی که Flock اعلام کرد تا پایان سال جاری نظارت بر جستوجوهای غیرعادی را آغاز کرده و کدهای پرونده را الزامی میکند، اما این شرکت در گذشته اکثر قوانین را به عهده مشتریان خود گذاشته بود. ابزار حسابرسی برای اسکن الگوهای مشکوک تنها در آوریل ۲۰۲۶ به عنوان یک تنظیم اختیاری اضافه شد.
بیزنس پلیسگری
شرکت Flock Safety اکنون ۷.۵ میلیارد دلار ارزشگذاری شده و توسط شرکتهای سرمایهگذاری بزرگی مثل Andreessen Horowitz و Founders Fund حمایت میشود. این شرکت ماهانه ۲۰ میلیارد اسکن پلاک ثبت میکند و حدود ۱۴۰ هزار کاربر فعال ماهانه دارد.
گرت لنگلی، مدیرعامل شرکت، این ابزار را به یک تحلیلگر جنایی تشبیه میکند که «همیشه بیدار است و مراقب شماست». او پیشتر در یک نمایش نشان داد که چگونه میتوان در کمتر از یک دقیقه تمام شهر را برای یافتن ماشینهایی که یک کامیون زرهپوش را تعقیب میکنند جستوجو کرد و سوابق بازداشت مالکان آنها را استخراج نمود و ادعا کرد که بازرسان به این ابزار «اعتیاد» پیدا میکنند.
شرکت لنگلی از یک تلفن ساده در یک جعبه ضدآب در آتلانتا شروع کرد و به غولی تبدیل شد که اخیراً گزارش داده است روزانه حدود ۱ میلیون دلار درآمد دارد. در دفتر مرکزی این شرکت در آتلانتا، یک دوربین با رنگ طلایی که پر از امضا است، یادبود مراسمی است که در آن هر ۱ میلیون دلار درآمد با نصب یک دوربین جدید جشن گرفته میشود.
تحلیل: عصر پلیسگری عاملمحور (Agentic Policing)
این تحول نشاندهنده گذار از پلیسگری «واکنشی» — جایی که یک پلاک با یک لیست شناخته شده چک میشود — به پلیسگری «پیشبینانه» یا «عاملمحور» است. در این مدل، هوش مصنوعی دیگر صرفاً یک پایگاه داده نیست، بلکه یک بازرس است که تعریف میکند رفتار «مشکوک» چیست. این رویکرد عاملمحور با پیشرفتهای سختافزاری همسو است؛ برای مثال، مدل Muse Glimmer اکنون امکان اجرای عاملهای ۳۰ میلیارد پارامتری را روی GPUهای خانگی فراهم کرده که میتواند قدرت پردازشی لازم برای چنین تحلیلهای رفتاری را به سطوح پایینتر منتقل کند.
اندرو گاتری فرگوسن، استاد حقوق در دانشگاه جورج واشینگتن، اشاره میکند که انتخاب پرامپتهای پیشفرض بسیار تکاندهنده است، زیرا بسیاری از فعالیتهای بیگناهانه میتوانند به عنوان مورد مشکوک علامتگذاری شوند. چاد مارلو از ACLU هشدار میدهد که بدون محدودیت در پرامپتها، پلیس میتواند «هوش مصنوعی را هدایت کند» و در نتیجه استانداردهای قانونیِ «ظن» را با یک «استاندارد مبهم هوش مصنوعی» جایگزین نماید.
برای یک شهروند عادی، این بدان معناست که حفاظت متمم چهارم قانون اساسی آمریکا در برابر جستوجوهای غیرمنطقی، توسط قراردادهای خصوصی دور زده میشود. وقتی پلیس این قابلیت را به طور کامل خریداری میکند، یک سابقه دائمی و قابل جستوجو از هر حرکت هر شهروند ایجاد میکند، بدون اینکه برای هر استعلام نیاز به حکم دادگاه داشته باشد.
شرکت Flock همچنان در حال گسترش است. آگهیهای استخدامی اخیر نشان میدهد که این شرکت در حال جذب مهندسانی برای ساخت «گردشهای کاری چندمرحلهای هوش مصنوعی» و «تولید خودکار سرنخها» است که سیگنالی از تکامل به سمت یک پلتفرم دیجیتال کامل برای پلیسگری است. اثر ثانویه این روند، «خودکارسازی ظن» است: وقتی یک هوش مصنوعی تعیین میکند که چه کسانی «۳ فرد برتر» برای یک بررسی جامع هستند، در واقع یک استاندارد ریاضی برای جنایتکار بودن اعمال میکند که برای عموم مردم و سیستم قضایی کاملاً مبهم است. این اتوماسیون در سطح جهانی در حال گسترش است و گزارشهای اینترپول نشان میدهد که حتی در مناطقی مانند آفریقا، بیش از نیمی از جرایم سایبری اکنون توسط هوش مصنوعی هدایت میشوند، که نشاندهنده تبدیل شدن AI به ابزاری دوطرفه برای جنایت و نظارت است.
گام بعدی شما
- اگر در مناطق تحت پوشش این سیستم هستید، از ابزارهای تغییر مسیر یا پارکینگهای سرپوشیده برای کاهش ردپای دیجیتال خودروی خود استفاده کنید.
- درخواستهای دسترسی به اطلاعات (FOIA) را برای متوجه شدن میزان استفاده پلیس محلی از ابزارهای تحلیل رفتاری ارسال کنید.
- در مورد قوانین حریم خصوصی دادههای مکانی در منطقه خود با فعالان حقوق بشر مشورت کنید.
اما داستان سختافزاری این نظارت گسترده حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای پردازشی لبه در سیستمهای امنیتی مراجعه کنید.
گفتگو