پرش به محتوای اصلی
پرش به محتوای مقاله

دادگاه فدرال کنتاکی: هوش مصنوعی نمی‌تواند مبنای احتمال قوی برای بازداشت باشد

·۲۹ آبان ۱۴۰۵۵ دقیقه مطالعه
چرا «سایکوز هوش مصنوعی» مدیران را به اخراج‌های عجولانه می‌کشاند؟
چرا «سایکوز هوش مصنوعی» مدیران را به اخراج‌های عجولانه می‌کشاند؟
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

نخستین حکم دادگاه فدرال که صریحاً تفویض ارزیابی احتمال قوی به AI را نقض تعدیل چهارم اعلام می‌کند و حصانت واجد شرایط محقق را لغو می‌کند — پیشینه‌ای که پلیس پیش‌بینانه و گزارش‌نویسی اتوماتیک را در زون ریسک قانون اساسی قرار می‌دهد.

یک قاضی فدرال در کنتاکی اعلام کرد که پلیس نمی‌تواند تنها با تکیه بر چهره‌یابی هوش مصنوعی، کسی را بازداشت کند. این حکم، حصانت واجد شرایط محققی را که مردی را بر اساس تطبیق تاییدنشده Clearview AI بازداشت کرده بود، از بین برد.

پلیس در سراسر آمریکا به سرعت ابزارهای الگوریتمی را برای شناسایی، تخصیص گشت‌ها و نوشتن گزارش بکار می‌گیرند. شرکت‌هایی مانند Clearview AI صدها میلیارد عکس عمومی را از وب باز جمع‌آوری کرده‌اند، در حالی که Axon هوش مصنوعی را در بدنه‌کامراها ادغام کرده تا روایت‌های رویداد را به‌صورت خودکار بسازد — مثل دبیرخانه‌ای که هر جلسه را بدون حضور نویسنده خلاصه کند. تا کنون دادگاه‌ها از ترسیم مرز قانون اساسی خودداری می‌کردند؛ این پرونده آن مرز را کشید.

پرونده: چک بد، تطبیق بد

در ژانویه ۲۰۲۵، محقق رایان کلمر از پلیس فلورنس، عکس دوربین مداری بانک را در سامانه چهره‌یابی وارد کرد. نرم‌افزار یک پروفایل فیسبوک با نام «یونی اسمیت انپولز چارون» برگرداند. کلمر بدون تحقیق بیشتر تصمیم گرفت که این شخص، آلین ویزکای اوسوریو، مردی پوست‌آبی که در نبراسکا زندگی می‌کند، است. اوسوریو بازداشت، به کنتاکی تسلیم و زندانی شد، پیش از اینکه ثابت کند در زمان عبور چک، در کار خود در نبراسکا بوده — صدها کیلومتر دورتر. اتهامات در مارس ۲۰۲۵ رد شدند.

زمان‌بندی رویدادها

  • ژانویه ۲۰۲۵: بانک چک بد گزارش داد؛ عکس دوربین مداری دزد را ضبط کرد
  • ژانویه ۲۰۲۵: محقق کلمر عکس را در چهره‌یابی وارد کرد
  • ۲۴ ژانویه ۲۰۲۵: اوسوریو در نبراسکا بازداشت، به کنتاکی منتقل و روز بعد با وثیقه آزاد شد
  • مارس ۲۰۲۵: هیات منصفه اوسوریو را متهم کرد
  • مه ۲۰۲۵ (تقریبی): دادگاه اولیه؛ اوسوریو بی‌گناهی را اعلام کرد
  • پس از دادگاه اولیه: اتهامات پس از ارائه مدرک کار از نبراسکا رد شدند

مکانیزم چهره‌یابی

  • حکم دادگاه [PDF] نام برنامه دقیق چهره‌یابی را نمی‌برد
  • تطبیق از عکس‌های فیسبوک، نقش Clearview AI را تقویت می‌کند
  • Clearview AI از آغاز تا کنون صدها میلیارد عکس از وب باز را جمع‌آوری کرده است
  • سیاست پلیس فلورنس صریحاً اعلام می‌کند چهره‌یابی AI تنها برای «برقراری احتمال قوی» کافی نیست
  • کلمر در بیانیه تحت سوگند ادعا کرد از «ابزارهای تحقیقاتی» (جمع) استفاده کرده؛ دادگاه تنها یک ابزار یافت

ناهمگونی بصری مستند شده

دادگاه دریافت که متهم در عکس دوربانک و پروفایل فیسبوک، شباهتی به عکس پرونده اوسوریو ندارند [مرجع: ص ۶–۷]. بر اساس Dkt. 3-1 در ص ۲–۳، تنها ویژگی‌های مشترک:

  • مرد پوست‌آبی
  • ریش

تفاوت‌های ثبت‌شده:

  • شکل سر متفاوت
  • مدل مو متفاوت
  • ویژگی‌های چهره متفاوت
  • رنگ پوست متفاوت

حکم قانون اساسی

قاضی نوشت که تعدیل چهارم «اجازه نمی‌دهد محققی وظیفه ارزیابی احتمال قوی را به AI واگذار کند.» به عبارت دیگر، تعدیل چهارم بازداشت فرد را بر اساس تنها نتیجه‌گیری تاییدنشده AI مجاز نمی‌داند. هیچ محقق معقولی در جایگاه متهم نمی‌توانست نتیجه‌ای دیگر بگیرد.

متن کامل پاراگراف مقدماتی دادگاه:

تعدیل چهارم قانون اساسی ایالات متحده اجازه نمی‌دهد محققی وظیفه ارزیابی احتمال قوی را به AI واگذار کند. به عبارت دیگر، تعدیل چهارم بازداشت فرد را بر اساس تنها نتیجه‌گیری تاییدنشده AI که فرد مورد نظر مرتکب جرم شده، مجاز نمی‌داند. و هیچ محقق معقولی در جایگاه متهم نمی‌توانست نتیجه‌ای دیگر بگیرد.

حصانت واجد شرایط رد شد

حصانت واجد شرایط رد شد چون نقض قانون اساسی به‌وضوح مستقر بود. محقق نمی‌تواند پشت ادعای ابهام قانون پنهان شود. این مسیر دعوی مدنی را باز می‌کند که احتمالاً در دادگاه تجدیدنظرخواهی می‌رسد و می‌تواند پیشینه الزام‌آور برای دایره ششم و فراتر ایجاد کند.

پیامدها فراتر از چهره‌یابی

پیامدها فراتر از چهره‌یابی می‌روند. الگوریتم‌های پلیس پیش‌بینانه که گشت‌ها را هدایت می‌کنند، سامانه‌های AI که گزارش بازداشت می‌نویسند، و هر نرم‌افزاری که خروجی ماشین را به‌جای قضاوت انسانی قرار می‌دهد، اکنون مانع قانون اساسی جدیدی روبروست. فروشندگان «شولوار» به دپارتمان‌هایی که از کاغذ‌کاری متنفرند، باید بپذیرند که محصولاتشان نمی‌تواند ارزیابی مستقل افسر را جایگزین کند.

تکنولوژی‌های تحت تأثیر

  • چهره‌یابی (Clearview AI و دیگران)
  • نرم‌افزار پلیس پیش‌بینانه برای هدایت گشت‌ها و تعاملات عمومی
  • گزارش‌نویسی AI اکسون یکپارچه‌شده با بدنه‌کامرا
  • هر ابزار الگوریتمی که ادعا کند به‌صورت خودمختار احتمال قوی را برقرار می‌کند

برای شرکت‌های AI و خریدهای پلیس

این حکم سیگنال می‌دهد که بندهای جبران و ادعاهای دقت بازاریابی، الزامات قانون اساسی را لغو نخواهد کرد. افسران خرید پلیس اکنون باید ابزارهایی بخواهند که تحقیقات انسانی را حمایت کنند — نه جایگزین کنند. دپارتمان‌هایی که پیش‌نهادهای الگوریتمی را قاطعیت‌بخش می‌دانند، ریسک مسئولیت و حذف مدرک را می‌پذیرند.

حلقه بازخورد سوگیری

مدافعان آزادی‌های مدنی این تصمیم را کنترلی حیاتی بر اتوماسیون شک می‌دانند. دادگاه شناخت که سوگیری در داده‌های آموزشی و سوگیری تایید در افسران، یک حلقه بازخورد می‌سازند: الگوریتم تطبیقی پیشنهاد می‌دهد، افسر آنچه الگوریتم پیشنهاد می‌دهد را می‌بیند، و حلقه بدون تأیید مستقل بسته می‌شود. شکستن این حلقه نیازمند مصونیت‌های رویه‌ای است، نه مدل‌های بهتر.

گام بعدی: تجدیدنظرخواهی و قانون‌گذاری

گام بعدی، تجدیدنظرخواهی است. اگر دایره ششم تأیید کند، حکم در کنتاکی، میشیگان، اوهایو و تنسی الزام‌آور می‌شود. دایره‌های دیگر ممکن است پیروی کنند. در عین حال، قانون‌گذاران در چند ایالت لایحه‌هایی تدوین می‌کنند که الزام «انسان در حلقه» برای AI پلیس را قانون‌گذاری می‌کنند. منتظر اولین نظر تجدیدنظر در این باره بمانید که آیا الگوریتم می‌تواند تحت تعدیل چهارم «مخبر قابل اعتماد» باشد.

عدالت نباید تابع قدرت پردازش موجود باشد. و اگر تمایل (یا هوش!) برای انجام کار محققی به‌درستی را نداشته باشید، خب…

گام‌های پیشنهادی برای شما

  • اگر در تیم حقوقی یا انطباق یک شرکت AI هستید، بندهای جبران و ادعاهای دقت را در برابر استاندارد «احتمال قوی» بسنجید.
  • توسعه‌دهندگان ابزارهای پلیس: مطمئن شوید محصول شما خروجی را به‌صورت «پیش‌نهاد» نه «تصمیم نهایی» برچسب‌گذاری می‌کند.
  • پژوهشگران سیاست: پرونده کنتاکی را به‌عنوان پیشینه برای قانون‌گذاری‌های ایالتی «انسان در حلقه» رصد کنید.
چرا این موضوع مهم است؟

این پیشینه، الزام «انسان در حلقه» را از بهترین ممارسه به قید قانون اساسی ارتقا می‌دهد و هر فروشنده AI پلیس را که خروجی را به‌صورت تصمیم نهایی بسته‌بندی می‌کند، در معرض دعاوی و حذف مدرک قرار می‌دهد. (اعتبار: حکم دادگاه فدرال کنتاکی، ۲۰۲۵)

تأثیر برای ایران

در حال حاضر اثر مستقیمی بر کاربران ایرانی ندارد؛ این یک تحول داخلی نظام عدلیه آمریکا است.

·نگاه ما
تحریریه دات‌هوش

این حکم اولین بار است که یک دادگاه فدرال صریحاً اعلام می‌کند تفویض قضاوت احتمال قوی به الگوریتم، نقض تعدیل چهارم است — نه یک خطای رویه‌ای، نقض قانون اساسی است. این مرز، هر سیستم AI که خروجی‌اش مستقیماً به بازداشت، تفتیش یا اتهام منجر شود، را در زون ریسک قانون اساسی قرار می‌دهد، صرف‌نظر از دقت مدل.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.