تصور کنید یک افسر پلیس تنها با یک عکس از چهره شما، در عرض چند دقیقه به لیست تمام کارفرمایان، نامهای مستعار و حلقهی دوستان نزدیک شما دست یابد. این دیگر یک سناریوی تخیلی نیست، بلکه هدف از ابزار جدیدی است که Clearview AI برای سازمانهای انتظامی توسعه داده است. شرکت Clearview AI ادعا میکند که نمونه اولیه جدیدش به نام InquiryIQ میتواند در عرض چند دقیقه (به جای هفتهها)، بهطور خودکار کارفرمایان، نامهای مستعار و حلقههای اجتماعی یک مظنون را شناسایی کند. این ابزار در واقع اجازه میدهد تا یک تطبیق چهره ساده، ماشه یک «تلهی دیجیتال» خودکار و گسترده را برای نیروهای انتظامی بکشد.
طبق گزارش WIRED، ابزار InquiryIQ اکنون میتواند یک تطبیق چهره ساده را به یک فرآیند خودکار تبدیل کند. این سیستم بهجای اینکه فقط نام فرد را پیدا کند، بهطور خودکار تمام ردپاهای دیجیتال او را در وب جستوجو و تحلیل میکند. این تحول در حالی رخ میدهد که چشمانداز نظارتی از «شناسایی ساده» به «پروفایلسازی خودکار» تغییر میکند. برای سالها، ابزارهای تشخیص چهره فقط یک نام میدادند؛ اما اکنون هوش مصنوعی زاینده (Generative AI) — شبیه دستیاری که میتواند میلیونها صفحه وب را در ثانیه بخواند و خلاصه کند — اجازه میدهد این نامها فوراً در کل وب متقاطع شوند. این تغییر در واقع «اصطکاک» یا همان دشواریهای دستی را که پیش از این مقیاس نظارت دولتی را محدود میکرد، از بین میبرد.
همانطور که در تحلیلهای قبلی ما دربارهی حریم خصوصی در عصر مدلهای بنیادی اشاره کردیم، حذف این اصطکاک یعنی نظارت گسترده ارزانتر و سریعتر میشود.
زمینه و تاریخچه Clearview AI
شرکت Clearview AI که در سال ۲۰۱۷ تأسیس شد، سالهای اول خود را عمدتاً دور از چشم عموم گذراند. در همان سال اول، پیتر تیل (Peter Thiel) مبلغ ۲۰۰ هزار دلار در این شرکت سرمایهگذاری کرد. Clearview بهسرعت شروع به جذب دپارتمانهای پلیس کرد و دورههای آزمایشی رایگانی را در سراسر ایالات متحده ارائه داد.
تاریخچه این شرکت با جنجالهای شدیدی گره خورده است. در سال ۲۰۲۰، تحقیقی از HuffPost پیوندهای Hoan Ton-That، مؤسس شرکت، با گروههای راستگرای افراطی را افشا کرد. این پیوندها شامل حضور در یک جامعه آنلاین خصوصی متشکل از فعالان و افراطگرایان راستگرا و همچنین شرکت در یک شام در کنوانسیون ملی جمهوریخواهان در سال ۲۰۱۶ با ریچارد اسپنسر، ملیگرای سفیدپوست بود. Ton-That بعدها بابت نوشتههای گذشته خود عذرخواهی کرد.
در سال ۲۰۲۰، نیویورک تایمز فاش کرد که Clearview بیش از ۳ میلیارد تصویر را از پلتفرمهایی مثل فیسبوک، یوتیوب و ونمو (Venmo) استخراج (Scrape) کرده است. این گزارش، شرکت را به یکی از جنجالیترین شرکتهای نظارتی در کشور تبدیل کرد. با وجود شکایتهای قانونی و درخواستهای شرکتهای فناوری برای توقف برداشت عکسها، Clearview به استخراج دادهها ادامه داد. پایگاه داده این شرکت از ۳ میلیارد تصویر در سال ۲۰۲۰، امروز به بیش از ۷۰ میلیارد تصویر رسیده است.
تکامل مأموریت شرکت
برای سالها، Clearview ادعا میکرد که نقش آن فقط ارائه «سرنخ» است. در پستی در سال ۲۰۲۲، Ton-That نوشت که «این بر عهده بازرس است که این لینکها را دنبال کند و تحقیقات بیشتری برای یافتن اطلاعات اضافی انجام دهد». اما InquiryIQ نشاندهنده یک تغییر بنیادین است، زیرا این ابزار بهگونهای طراحی شده تا آن تحقیقات ثانویه را بهصورت خودکار انجام دهد.
همزمان با تکامل شرکت، مدیریت آن نیز تغییر کرده است. Hoan Ton-That در دسامبر ۲۰۲۴ از سمت مدیرعاملی استعفا داد و در بهار سال بعد، هیئت مدیره را ترک کرد. Amos Kyler که در سال ۲۰۱۹ به عنوان مهندس به شرکت پیوست و در اکتبر سال گذشته مدیرعامل شد، چهرهای فنیتر را برای شرکت ارائه میدهد. در حالی که سالهای اول شرکت با جابجایی مرزها و جسارت در تخطی از قوانین تعریف میشد، Kyler اکنون بر «اصلاح»، بازرسی (Auditing) و اطمینان از اینکه محصول با انتظارات مربوط به یکپارچگی و درستکاری مطابقت دارد، تأکید میکند.
جزئیات و سازوکار InquiryIQ
بر اساس گزارش WIRED، InquiryIQ به عنوان یک «دستیار تحلیلگر» هوش مصنوعی عمل میکند. این ابزار طراحی شده تا جزئیاتی را که یک بازرس از طریق جستوجوی Clearview به دست آورده است بگیرد و بهطور خودکار در وب «منشعب» (Fan out) شود. این ابزار صفحات وب را باز میکند، تصاویر را تحلیل میکند و یافتهها را در قالب یک پروفایل جامع جمعآوری میکند. این قابلیت تبدیل حجم عظیمی از دادههای بصری و متنی به اطلاعات ساختاریافته، مشابه رویکردی است که شرکت Clipto برای تبدیل ترابایتهای ویدیو به پایگاه دانش به کار میگیرد.
سازوکار دقیق آن به شرح زیر است:
- استخراج دادهها: سیستم بهگونهای ساخته شده تا «بهطور خودکار دادههای شخصی را از منابع وب کشف و غنی کند». این ابزار برای یافتن کارفرمایان احتمالی، نامهای مستعار، شرکا و ویژگیهای فیزیکی جستوجو میکند.
- گراف کاندیداها: ابزار یک «گراف کاندیدا» (Candidate Graph) از هویتها و شرکای احتمالی میسازد. این کار باعث میشود پروفایل سوژه با شماره تلفنها، آدرسهای فیزیکی، حسابهای رسانههای اجتماعی و سوابق بازداشت تکمیل شود.
- ورودیهای دموگرافیک: رابط کاربری به افسران اجازه میدهد سن، جنسیت و نژاد را وارد کنند. طبق کدهای این ابزار، این ورودیها به سیستم کمک میکند تا هنگام اجرای جستوجوها «تصمیمات هوشمندانهتری» بگیرد. همچنین امکان وارد کردن رنگ مو و رنگ چشم نیز وجود دارد.
- فرآیند تأیید: وقتی جستوجو به پایان میرسد، افسر باید جزئیات استخراج شده را بپذیرد یا رد کند. Clearview هشدار داده است که دادههای بازداشت و رسانههای اجتماعی که بهطور خودکار تولید شدهاند «ممکن است دقیق باشند یا نباشند». افسران باید گواهی دهند که دادهها را پیش از پذیرش، بهطور مستقل تأیید کردهاند.
- منطق عملیاتی: مدیرعامل، Amos Kyler، این ابزار را راهی برای آزمایش یک «گزاره» و سپس «ابطال» آن توصیف میکند. سیستم یک «فکت کوچک» (Factoid) را میگیرد، جستوجوهایی را اجرا میکند و تعیین میکند که آیا نتیجه مرتبط است یا خیر.
- قابلیتهای فنی: کدهای بررسی شده توسط WIRED نشان میدهد که InquiryIQ میتواند جستوجوهای وب و تصویر را اجرا کند، صفحات وب را مرور کند و تشخیص چهره را روی هر عکسی که در طول خزیدن (Crawl) خود با آن مواجه میشود، اعمال کند.
موتور مدلهای هوش مصنوعی
WIRED این ابزار را از طریق تحلیل فایلهایی کشف کرد که صفحه ورود Clearview پیش از ورود کاربر، به مرورگر او میفرستد. این همان تکنیکی است که برای کشف OS Investigate (ابزاری از شرکت Flock Safety) استفاده شد. کدها فاش میکنند که Clearview مدلهای SpaceXAI (موجودیت ادغام شده SpaceX و xAI، سازندگان Grok) و Amazon Bedrock را آزمایش کرده است.
مدیرعامل شرکت، Amos Kyler، اظهار داشت که این گزینههای مدل به این دلیل گنجانده شده بودند تا مهندسان بتوانند نحوه عملکرد مدلهای مختلف را در طول آزمایش مقایسه کنند. این رویکرد آزمایش مدلهای متنوع برای رسیدن به بهترین خروجی، یادآور تفاوت دیدگاه ChatGPT و گوگل در معرفی برندهاست که نشان میدهد استراتژی تکمدلی دیگر پاسخگوی نیازهای پیچیده نیست. او تأکید میکند که هیچ کاربر انتظامی هرگز از این ابزار استفاده نکرده است، ابزار به مشتریان عرضه نشده و در حال حاضر برنامهای برای انتشار آن به شکل فعلی وجود ندارد. او اشاره میکند که ابزارهای مدرن AI به مهندسان اجازه میدهند نمونههای اولیه را بهسرعت پیش ببرند.
با این حال، انتخاب این مدلها نگرانیهای مربوط به قابلیت اطمینان را برانگیخته است. Grok به دلیل خروجیهای نژادپرستانه، افراطی و تحریکآمیز مورد توجه قرار گرفته است. در سال ۲۰۲۵، یک تغییر غیرمجاز در پرامپت سیستمی Grok باعث شد تا ادعاهایی درباره «نسلکشی سفیدپوستان» در آفریقای جنوبی را در چتهای نامرتبط تزریق کند. کمتر از یک ماه بعد، تغییر دیگری منجر به پستهای یهودستیزانه و ستایش از آدولف هیتلر شد. SpaceXAI به درخواستها برای اظهار نظر پاسخ نداد.
کارشناسان حقوقی، از جمله Michael Price از مرکز متمم چهارم انجمن ملی وکلای دفاع کیفری، استدلال میکنند که چتباتهایی که مستعد توهم (Hallucination) هستند، برای ایجاد «دلیل احتمالی» (Probable Cause) جهت صدور حکم بازداشت نامناسباند. Price اشاره میکند که مدلهای AI روی مطالب اینترنتی، از جمله تئوریهای توطئه و تعصبات، آموزش دیدهاند. او میپرسد سیستمی که ممکن است به کاربر بگوید «سنگ بخور و سفیدکننده بنوش»، چگونه میتواند مبنای دلیل احتمالی در دادگاه باشد. Price که در پرونده Chatrie v. United States در مورد حکمهای Geofence نقش داشت، استدلال میکند که این مشکلات قابلیت اطمینان، فراتر از Grok و شامل تمام هوش مصنوعی زاینده میشود.
مقیاس نظارت
رشد Clearview با وجود فشار شدید رگولاتوری، تهاجمی بوده است. امروز Clearview میگوید فناوریاش توسط بیش از ۲,۰۰۰ سازمان انتظامی در سراسر ایالات متحده استفاده میشود.
Clearview در این حوزه تنها نیست. پلتفرمهای اطلاعاتی دیگری که به پلیس فروخته میشوند — مانند SocialNet از شرکت ShadowDragon, Tangles از Penlink و Fivecast — پیش از این به بازرسان کمک میکردند تا نامهای مستعار را پیدا کرده و ردپاهای دیجیتال را ترسیم کنند. InquiryIQ به دنبال آن است که این فرآیند را با استفاده از هوش مصنوعی زاینده، بیش از پیش خودکار کند.
خطر «کنجکاوی دیجیتال»
پژوهشگران حریم خصوصی هشدار میدهند که InquiryIQ امکان چیزی را فراهم میکند که Andrew Guthrie Ferguson، استاد حقوق دانشگاه جورج واشینگتن، آن را «کنجکاوی دیجیتال» (Digital Rummaging) مینامد. با متصل کردن سرنخهای دیجیتال پراکنده که زمانی در مکانهای جداگانه بودند، AI پروفایلی جامع میسازد که ساخت آن برای یک کارآگاه انسانی بیش از حد زمانبر و دشوار بود.
Woodrow Hartzog از دانشگاه بوستون استدلال میکند که نیروی کار دستی در تحقیقات، زمانی به عنوان یک کنترل عملی بر نظارت عمل میکرد. او اشاره میکند که حفاظت از حریم خصوصی بر این فرض بنا شده بود که در توانایی دولت برای جمعآوری اطلاعات، «اصطکاک» وجود دارد. وقتی این نیروی کار خودکار شود، هزینه «ماهیگیری» (جستوجوهای گسترده بدون دلیل مشخص) کاهش مییابد و بررسی افرادی که در حالت عادی هرگز مورد تحقیق قرار نمیگرفتند، عملی میشود.
شرکت Clearview سعی میکند این موضوع را با الزام «حضور انسان در چرخه» (Human in the loop) کاهش دهد. با این حال، Hartzog هشدار میدهد که بازرسان ممکن است در نهایت به ماشین اعتماد کنند و بررسی انسانی را به یک «مهر تأیید» (Rubber stamp) ساده تبدیل کنند.
این خطر در پرونده United States v. Sant در مینسوتا، مربوط به تحقیقات امنیت داخلی و فعالان سیاسی، مشهود بود. وکلای دفاع گزارشی از Clearview پیدا کردند که در آن هر نتیجه با عبارت «تأیید شده توسط گای جینو» (Accepted by Guy Gino) مهر شده بود، حتی نتیجهای که خود Clearview آن را «نتیجهای با احتمال کمتر» برچسب زده بود. پاورقی گزارش اشاره میکند که چنین نتایجی تنها در صورتی قابل استخراج هستند که کاربر آنها را بپذیرد. وکلای دفاع ادعا میکنند که این گزارش بهاشتباه عکسهای مرد دیگری، همسر باردار و دختر کوچک او را وارد کرده بود. اگرچه شواهدی وجود ندارد که InquiryIQ در این پرونده خاص استفاده شده باشد، اما این موضوع خطر تأیید کورکورانه نتایج AI را برجسته میکند.
پتانسیل برای بازرسی (Auditing)
یک نکته مثبت کوچک وجود دارد. Ferguson اشاره میکند که تحقیقات به کمک AI در واقع میتواند ردپای کاغذی بهتری نسبت به کارآگاهان سنتی ایجاد کند. در حال حاضر، افسران اغلب بر اساس حدس و گمان پیش میروند یا سرنخها را بدون مستند کردن هر مرحله، رها میکنند.
یک سیستم AI که پرامپتها، مدلهای انتخابی و مسیرهای تحقیقاتی خود را حفظ کند، میتواند فرآیند بازرسی را آسانتر کند. Ferguson این را «یک نکته مثبت در یک تغییر در غیر این صورت پرتنش و مخرب» مینامد.
با این حال، Ferguson همچنان بدبین است و به الگوی ۱۶ ساله استقرار فناوریهای پلیس پیش از ایجاد حاکمیت قانونی اشاره میکند. او این وضعیت را «همان دستورالعمل قدیمی» میداند که روی یک فناوری جدید اعمال شده است.
آمازون اعلام کرده است که AWS در توسعه InquiryIQ دخالتی نداشته است. این شرکت خاطرنشان کرد که مشتریان مسئول رعایت سیاستهای استفاده قابل قبول و هوش مصنوعی مسئولانه هستند، هرچند شرایط خاصی در خدماتش ندارد که پلیس را از استفاده از Amazon Bedrock منع کند.
گام بعدی شما
- اگر در حوزه حقوق یا امنیت فعالیت میکنید، روی مفهوم «اصطکاک نظارتی» و تأثیر حذف آن توسط AI مطالعه کنید.
- گزارشهای مربوط به پروندههای قضایی که در آنها از خروجیهای AI به عنوان دلیل استفاده شده را دنبال کنید تا میزان پذیرذیر بودن قانونی توهمات مدلها را بسنجید.
- ابزارهای متنباز برای مدیریت دادههای شخصی را بررسی کنید تا متوجه شوید چه بخشهایی از ردپای دیجیتال شما همچنان قابل استخراج است.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell و قدرت پردازش استنتاج در مقیاس کلان مراجعه کنید.
گفتگو