تصور کنید در یک جلسه بازجویی یا استخدام هستید و بدون اینکه هیچ سیمی به بدنتان وصل شود، دوربینی در سکوت منافذ پوست و ضربان قلب شما را رصد میکند تا بفهمد چه زمانی دروغ میگویید. این کابوس یا رویای امنیتی، هدف از بودجه ۳۰.۳ میلیون دلاری است که وزارت دفاع آمریکا (DoD) برای پنج سال آینده درخواست کرده است. این ابتکار که Polygraph+ (یا پلیگراف نسل بعد) نامیده شده، قصد دارد فناوریهای قدیمی دهه ۱۹۲۰ را با الگوریتمهای یادگیری ماشین و حسگرهای «از راه دور» جایگزین کند تا دادههای فیزیولوژیک را بدون تماس فیزیکی استخراج کند.
این فشار برای مدرنسازی در حالی رخ میدهد که تنشهای داخلی در پنتاگون بالا گرفته است. تحت مدیریت پیت هگست، وزیر دفاع، این سازمان استفاده از پلیگراف را برای شکار افشاگران خبری شدت بخشیده است. به گزارش نیویورک تایمز در سپتامبر ۲۰۲۴، حدود ۵۰ افسر ستاد مشترک پس از انتشار گزارشهایی درباره کاهش ذخایر تسلیحاتی آمریکا در جریان درگیری با ایران، مورد آزمایش قرار گرفتند.
تصور کنید در یک غربالگری امنیتی باشید که در آن به جای اتصال به سیمها، دوربینی در سکوت منافذ پوست شما را ردیابی میکند. این هدف آژانس ضدجاسوسی و امنیت دفاعی (DCSA) است که مدیریت این برنامه را برای بررسی صلاحیت کارکنان احتمالی و شناسایی «تهدیدات داخلی» بر عهده خواهد داشت.
اهداف برنامه و زمینهی اجرایی
آژانس DCSA مسئولیت انجام بررسیهای پیشینه برای دولت فدرال را بر عهده دارد. طبق مستندات بودجه که در حال حاضر در انتظار تأیید کنگره است، هدف از Polygraph+ «مدرنسازی فناوریهای ارزیابی اعتبار و پلیگراف فدرال» است تا از این طریق، قابلیت اطمینان و دقت کلی این ابزارها افزایش یابد.
با این حال، منتقدان استدلال میکنند که این یک رویکرد معیوب است. کیری کوتسوگلو، استاد دانشکده حقوق نورثومبریا در بریتانیا، این پروژه را تلاشی گمراهانه برای تبدیل مفاهیم پیچیده انسانی به چیزی توصیف میکند که صرفاً «ملموس» باشد. او معتقد است تلاش برای تبدیل واکنشهای پیچیده روانی به دادههای عددی، ماهیت حقیقت را نادیده میگیرد.
سازوکار فنی: از سیمها تا پیکسلها
پنتاگون در حال فاصله گرفتن از اندازهگیریهای سنتی فشار خون و تعریق است. سیستم جدید بر سه محور اصلی متمرکز است:
- سنجش از راه دور (Standoff Sensing): ثبت خوانشهای فیزیولوژیک از فاصله دور، بدون نیاز به اتصال هیچ دستگاهی به بدن فرد مورد آزمایش. این یعنی فرد حتی متوجه نمیشود که کدام پارامترهای بدنیاش در حال تحلیل است.
- امتیازدهی چندوجهی (Multi-modal Scoring): استفاده از هوش مصنوعی برای ترکیب جریانهای دادهای مختلف — مانند استرس فیزیولوژیک، بار شناختی و تلاشهای آگاهانه برای پنهانکاری — در قالب یک «امتیاز فریب» واحد که دور زدن آن برای سوژهها سختتر باشد.
- بازشناسی الگو (Pattern Recognition): شناسایی نشانههای ظریف فیزیولوژیک که معمولاً از چشم بازجویان انسانی دور میماند و در تحلیلهای سنتی نادیده گرفته میشد.
برای ساخت این نمونههای اولیه، واحد نوآوری دفاعی (DIU) در سال ۲۰۲۳ یک فرایند پذیرش آزاد را برای یافتن شرکتهایی با محصولات تشخیص فریب اجرا کرد. آنها در نهایت دو شرکت تخصصی را انتخاب کردند:
- Presage Technologies: این شرکت ادعا میکند توانایی اندازهگیری ضربان قلب و نرخ تنفس را تنها با استفاده از دوربینهای استاندارد دارد.
- Altec Research: یک شرکت حسگرهای پزشکی که نمونهای اولیه برای ردیابی حرکات سر، دمای پوست صورت و فعالیت منافذ پوست ساخته است.
تضاد علمی و ریسک مقیاس
به رغم این سرمایهگذاری، جامعه علمی عمیقاً بدبین است. پلیگرافهای فعلی بهندرت در دادگاهها پذیرفته میشوند زیرا فاقد یک نشانگر زیستشناختی ثابت برای دروغ گفتن هستند. همانطور که سوفی ون در زی، استاد دانشگاه اراسموس، اشاره میکند، هنوز هیچ «بینی پینوکیو»ای وجود ندارد؛ یعنی هیچ نشانه واحدی از دروغ وجود ندارد که در همه زمانها برای همه افراد صدق کند.
از نظر تاریخی، شواهد مربوط به کارایی این ابزارها ناامیدکننده بوده است:
- در سال ۱۹۸۳، دفتر ارزیابی فناوری نتیجه گرفت که شواهد بسیار محدودی برای حمایت از استفاده از پلیگراف در غربالگری کارکنان وجود دارد.
- در سال ۲۰۰۳، شورای ملی تحقیقات آمریکا (NRC) شواهد مربوط به اثربخشی آنها را «در بهترین حالت ضعیف» خواند.
- انسانها به طور کلی بدون کمک فنی، تنها در کمی بیش از ۵۰٪ موارد میتوانند دروغ را تشخیص دهند، که این رقم تنها اندکی بالاتر از حدس تصادفی است.
خطر اصلی در مقیاس اجرای این سیستم در وزارت دفاع است. با وجود ۲.۸ میلیون کارکن، حتی اگر سیستمی با دقت ۸۰ تا ۹۴٪ (طبق ادعای انجمن پلیگراف آمریکا) به کار گرفته شود، باز هم میتواند منجر به اشتباهات گستردهای شود. یک سیستم ناقص که در چنین مقیاسی اعمال شود، میتواند دهها هزار نفر از افراد بیگناه را به اشتباه متهم کند و زندگی شغلی آنها را نابود سازد.
علاوه بر این، این فرایند اغلب ذهنی (Subjective) است. بازجویان مختلف به نتایج متفاوتی میرسند و گروههای اقلیت از نظر آماری بیشتر در معرض شناسایی به عنوان «فریبکار» هستند. همچنین، سوژههای باتجربه میتوانند با استفاده از «ضد-اقدامات» (Countermeasures) تست را دور بزنند؛ مثلاً با پنهان کردن یک پین در کف کفش خود تا واکنشهای فیزیولوژیک را در پاسخ به سوالات پایه (مانند «آیا آسمان آبی است؟») به طور مصنوعی افزایش دهند و بدین ترتیب پاسخهای خود به سوالات هدف (مانند «آیا تا به حال جرمی مرتکب شدهاید؟») را ماسک کنند تا تفاوت واکنشها برای ماشین نامشخص شود.
تاریخچهای از شکستهای تکنولوژیک
پروژه Polygraph+ جدیدترین حلقه از تلاشهای شکستخورده برای استفاده از فناوری در تشخیص دروغ است. در دهههای گذشته، محققان همه چیز از دوربینهای حرارتی و ردیابهای مردمک چشم تا اسکنهای مغزی را امتحان کردهاند، اما هیچکدام نتایج قابل اعتمادی خارج از محیط آزمایشگاه ندادهاند.
پروژههای مشابه مبتنی بر AI نیز پیشتر کمرنگ شده و از بین رفتهاند، از جمله:
- Silent Talker: سیستمی که در دهه ۲۰۰۰ توسط دانشگاه مانچستر متروپولیتان توسعه یافت و امتیازات فریب را از روی ویدیو تولید میکرد.
- iBorderCtrl: یک برنامه آزمایشی با بودجه اتحادیه اروپا که فناوری Silent Talker را جذب کرده بود تا در مرزها استفاده شود.
- AVATAR: پروژهای در آمریکا که تحلیل صدا، تشخیص حرکات بدن و ردیابی چشم را برای کنترل مرزها ترکیب کرده بود اما نتایج متقاعدکنندهای نداشت.
تحلیل تحریریه
این سرمایهگذاری نشان میدهد که پنتاگون به هوش مصنوعی نه به عنوان یک راهکار علمی، بلکه به عنوان یک ابزار روانشناختی مینگرد. با افزودن برچسب «AI» به پلیگراف، دولت اعتبار ادراکشدهی این تست را افزایش میدهد. این امر یک اثر بازدارنده قدرتمند ایجاد میکند؛ همانطور که سوفی ون در زی اشاره میکند، سوژهها اغلب پیش از شروع تست اعتراف میکنند — اما تنها در صورتی که باور کنند ماشین واقعاً کار میکند و حقیقت را میبیند.
پروفسور ماریون اسوالد، که همراه با کوتسوگلو درباره سیستم قضایی نوشته است، میترساند که این ابزارها به عنوان یک «تکیهگاه روانشناختی» برای ارعاب افراد جهت اعتراف به کار روند. او معتقد است این اقدام پاسخی به نگرانیهای دولت فعلی در مورد نشت اطلاعات و درک آنها از فقدان وفاداری در بدنه سازمان است. این نگرانیها در حالی شدت یافته که برخی عاملهای هوشمند حتی توانستهاند پروتکلهای امنیتی سایتهای دولتی را دور بزنند و ریسکهای نفوذ دیجیتال را افزایش دهند.
برای حوزه هوش مصنوعی، این یک داستان هشداردهنده درباره «سوگیری اتوماسیون» (Automation Bias) است. اعمال یادگیری ماشین روی مجموعهدادهای که فاقد «حقیقت زمینی» (Ground Truth) قابل اعتماد است — به این معنی که ما واقعاً نمیدانیم چه کسی در دادههای آموزشی دروغ میگفته است — یک حلقه بازخورد از بیاعتباری ایجاد میکند. کوتسوگلو استدلال میکند که ترکیب AI با پلیگراف «بدترین حالت هر دو جهان» است، زیرا عدم قطعیت فنی را بر روی بیاعتباری علمی میافزاید. این آسیبپذیری در دادهها یادآور تلاشهای سازمانیافته برای مسمومسازی دادههای مدلهای زبانی است که نشان میدهد چگونه ورودیهای دستکاری شده میتوانند خروجیهای AI را منحرف کنند.
باید روند تأیید بودجه در کنگره را دنبال کرد تا مشخص شود آیا این وجوه پرداخت میشوند یا خیر. اگر برنامه پیش برود، نبرد بعدی بر سر شفافیت «امتیازات فریب» خواهد بود که برای لغو مجوزهای امنیتی فدرال استفاده میشوند و میتوانند بدون هیچ دلیل ملموسی، دسترسی افراد به اطلاعات حساس را قطع کنند. در همین راستا، بحثهای حقوقی درباره کنترل مدلهای AI شدت گرفته است، تا جایی که در کالیفرنیا الزام استقرار «کلید قطع اضطراری» برای مدلهای هوش مصنوعی مطرح شده است تا از رفتارهای پیشبینینشده این سیستمها جلوگیری شود.
گفتگو