۸۹۳ میلیون دلار. این رقم تکان‌دهنده، مجموع خسارات ناشی از کلاهبرداری‌های مبتنی بر هوش مصنوعی در سال ۲۰۲۵ است. طبق اعلام اف‌بی‌آی (FBI)، مرکز شکایت از جرایم اینترنتی (IC3) برای نخستین بار در ۲۶ سال گذشته، دسته‌بندی ویژه‌ای را برای سرقت‌های هدایت‌شده توسط هوش مصنوعی ایجاد کرده است. در مجموع، این اداره بیش از ۲۲,۰۰۰ شکایت با ارتباط مستقیم به هوش مصنوعی ثبت کرده است.
این تغییر در زمانی رخ می‌دهد که فاصله میان تولید محتوای مصنوعی و تشخیص انسانی به‌کلی از بین رفته است. سال‌ها پیش، صنعت فناوری وعده داده بود که ابزارهای تشخیص با سرعت تولیدکنندگان پیش خواهند رفت، اما این مسابقه عملاً به پایان رسیده است. نتیجه، عصر «کلاهبرداری صنعتی» است؛ جایی که فریبکاری ارزان تولید می‌شود و سودآوری بالایی دارد. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های مولد اشاره کردیم، مشکل دیگر کارکرد تکنولوژی نیست — زیرا این ابزارها به‌شدت کارآمدند — بلکه مسئله این است که وقتی فاصله میان پیچیدگی حمله و آگاهی هدف سال‌ها باشد، چه حفاظی می‌توان ساخت.
تصور کنید صدای دخترتان را می‌شنوید که می‌گراسد و می‌گوید تصادفی مرگبار داشته است. در سال ۲۰۲۵، شارون برایت‌ول از شهر دوور در فلوریدا، صدای دخترش اپریل را شنید که ادعا می‌کرد هنگام رانندگی پیام داده و زنی حامل را زیر گرفته است. در این تماس، صدا می‌گفت که تلفن اپریل توسط پلیس توقیف شده است. سپس مردی به‌عنوان وکیل اپریل وارد تماس شد و ۱۵ هزار دلار وجه نقد برای وثیقه خواست. او هشدار داد که برای جلوگیری از آسیب به اعتبار فرزندش، نباید دلیل برداشت وجه را به بانک بگوید. در کمتر از یک ساعت، این بازنشسته مبلغ را برداشت کرد و به دلیور-کوری (نامه برسانی) تحویل داد که تصور می‌کرد وابسته به دادگاه است.
این صدا یک شبیه‌سازی صدا (Voice Cloning) — شبیه کپی‌برداری دقیق از اثر انگشت صوتی یک فرد — بود و نه یک انسان واقعی؛ بلکه الگویی از اعداد بود که از قطعه‌ای کوتاه از یک فایل صوتی تولید شده بود. تنها زمانی که برایت‌ول با اپریل واقعی تماس گرفت و فهمید او تمام صبح سر کار بوده، متوجه شد هیچ انسانی تماس نگرفته است. این پرونده که در تابستان ۲۰۲۵ در رسانه‌های محلی آمریکا بازتاب یافت، نمادی از شکستی است که پلیس، بانک‌ها و اپراتورهای مخابراتی در دو سال گذشته در مهار آن داشتند.
ابعاد بحران
بر اساس گزارش اف‌بی‌آی در آوریل ۲۰۲۶، آمار خسارات مالی تکان‌دهنده است:
- خسارات ناشی از هوش مصنوعی: ۸۹۳ میلیون دلار خسارت تعدیل‌شده.
- سهم سالمندان: ۳۵۲ میلیون دلار از این مبلغ توسط قربانیان ۶۰ سال به بالا پرداخت شد؛ این یعنی سالمندان هدف اصلی این حملات هستند.
- کل جرایم سایبری آمریکا: خسارات در یک سال ۲۶٪ رشد کرد و به ۲۰.۹ میلیارد دلار رسید.
- خسارات سایبری سالمندان: ۷.۷ میلیارد دلار که جهشی ۶۰ درصدی نسبت به سال قبل نشان می‌دهد.
به باور اف‌بی‌آی، این ارقام احتمالاً کفِ خسارات هستند، نه سقف. زیرا اف‌بی‌آی اشاره کرد که انتساب خسارات به هوش مصنوعی تنها بازتاب‌دهنده مواردی است که قربانیان تشخیص داده و گزارش کرده‌اند. از آنجایی که اکثر قربانیان تماس‌های شبیه‌سازی شده باور می‌کنند واقعاً با فرزند خود صحبت کرده‌اند، هرگز متوجه دخالت ماشین نمی‌شوند.
در سطح جهانی، وضعیت وخیم‌تر است. در مارس ۲۰۲۶، اینترپل (INTERPOL) در دومین ارزیابی تهدیدات کلاهبرداری مالی جهانی، خسارات سال ۲۰۲۵ را ۴۴۲ میلیارد دلار تخمین زد؛ رقمی که با تولید ناخالص داخلی سالانه دانمارک برابری می‌کند. اینترپل از «صنعتی شدن کلاهبرداری» سخن می‌گوید؛ جایی که کلاهبرداری از افراد فرصت‌طلب به عملیات سازمان‌یافته فراملی تبدیل شده است که با قاچاق انسان و جرایم سایبری گسترده تلاقی دارد.
سلاح سه ثانیه‌ای
سیستم‌های مدرن شبیه‌سازی صدا تنها به ۳ ثانیه صوت نیاز دارند تا صدایی بسازند که از نسخه اصلی غیرقابل تشخیص باشد. ۳ ثانیه یعنی طول یک پیام خوش‌آمدگویی در پیام‌گیر یا تکه‌ای از یک پادکست. این داده‌ها هر روز از طریق زندگی دیجیتالی ما در دسترس هستند؛ یک کلیپ کوتاه از نوه در تیک‌تاک یا یک ویدیوی عمومی در اینستاگرام، تمام آنچه کلاهبرداران برای ساخت یک سناریوی آدم‌ربایی نیاز دارند را فراهم می‌کند.
در مارس ۲۰۲۵، کانسیومر ریپورتس (Consumer Reports) شش محصول شبیه‌سازی صدا شامل ElevenLabs، Descript، Lovo، PlayHT، Resemble AI و Speechify را ارزیابی کرد. نتایجی که توسط NBC News و The Register منتشر شد، صریح بود: اکثر این ابزارها هیچ حفاظ معناداری ندارند.
- ورود آسان: چهار شرکت از شش شرکت، تنها یک نام یا ایمیل برای باز کردن حساب می‌خواستند.
- تأییدیه ساده: چهار محصول فقط یک تیک برای تأیید حق قانونی شبیه‌سازی صدا می‌گرفتند.
- فقدان احراز هویت: هیچ‌کدام از این چهار مورد از مکانیزم‌های فنی برای تأیید رضایت یا محدود کردن شبیه‌سازی به صدای خودِ کاربر استفاده نکردند.
اگرچه ElevenLabs برنامه‌ای چندلایه شامل سیاست‌های ممنوعیت استفاده، یک طبقه‌بندی‌کننده عمومی گفتار هوش مصنوعی، قابلیت ردیابی تا حساب کاربری و لیست «صداهای ممنوعه» برای شخصیت‌های مورد حفاظت در دوران انتخابات دارد، اما این‌ها ابزارهایی «پس از وقوع» هستند. آن‌ها به بازرسان کمک می‌کنند تا بعد از دزدیده شدن پول، منشأ صدا را پیدا کنند، اما مانع تولید آن شبیه‌سازی ۳ ثانیه‌ای نمی‌شوند. در بازار سریع فعلی، احراز هویت نوعی اصطکاک است که شرکت‌ها تمایلی به تحمیل آن ندارند. در همین راستا، چالش‌های اخلاقی و حقوقی متعددی پیرامون نحوه جمع‌آوری داده‌ها برای آموزش این مدل‌ها وجود دارد، چنان‌که گزارش‌هایی از تلاش OpenAI برای پنهان کردن شواهدی از سرقت آثار خبری منتشر شده است.
شکست سیستم‌های تشخیص
در ژوئن ۲۰۲۶، نیویورک تایمز گزارشی از هانی فارید، استاد دانشگاه برکلی و پیشروترین متخصص جنایی جعل عمیق (Deepfake) در جهان منتشر کرد. فارید که بیش از دو دهه بود برای دولت‌ها و روزنامه‌نگاران حقیقت را از سنتتیک جدا می‌کرد، اعتراف کرد که در تست‌های خودش شکست می‌خرد و «احساس می‌کند دارد نابینا می‌شود».
اعتراف فارید گواه این است که در حوزه صوت، مسابقه میان تولید و تشخیص به نفع تولیدکنندگان تمام شده است. وقتی برجسته‌ترین متخصص جهان به حدس زدن روی تک‌انداز می‌رسد، استراتژی شناسایی جعل پس از تولید، تنها یک امید واهی است. کلاهبرداری‌هایی که بر پایه ۲۰ دقیقه وحشت و پانیک بنا شده‌اند، زمانی برای تحلیل جنایی نمی‌گذارند؛ آن هم تحلیلی که حتی متخصصان جهان دیگر به آن اعتماد ندارند.
این موضوع باعث می‌شود هر دفاعی که بر بازگشت به 판단 انسانی تکیه دارد — مانند استفاده از «قضاوت» یک کارمند بانک یا توصیه به بستگان برای «گوش دادن به هر چیز غیرعادی در صدا» — منسوخ شود. تشخیص نمی‌تواند ستون اصلی دفاع باشد، زیرا سیستم شنوایی انسان تکامل یافته است تا صدای شناخته شده را به عنوان گواهی حضور شخص شناخته شده بپذیرد.
چرا سالمندان هدف هستند؟
سالمندان نه به دلیل ساده‌لوحی، بلکه به دلیل «معماری آسیب‌پذیری انسانی» هدف قرار می‌گیرند. ویژگی‌هایی که آن‌ها را به هدف تبدیل می‌کند، اغلب حاصل یک زندگی طولانی و با تجربه است:
- وضعیت مالی: موجودی ذخیره بالاتر در حساب‌های آن‌ها به دلیل دهه‌ها کار، آن‌ها را اهداف بهینه‌تری نسبت به جوانان می‌کند.
- الگوهای ارتباطی: آن‌ها در بستری از اعتماد عمل می‌کنند، جایی که تماس یک خویشاوند مضطرب، فوراً یک وضعیت اضطراری واقعی تلقی می‌شود.
- شکاف تکنولوژیک: آن‌ها در دنیایی بزرگ شدند که صدای پشت خط لزوماً یک انسان بود و کمتر با مفهوم سنتز صدا آشنا هستند.
- ساختار احساسی: غریزه محافظت از فرزند، بر استدلال‌های شک‌گرایانه غلبه می‌کند.
پژوهش‌های دانشگاهی این آسیب‌پذیری‌ها را رسمیت بخشیده‌اند. یک مقاله در arXiv در ژوئن ۲۰۲۶ بیان کرد که سالمندان به طور نامتناسبی در برابر کلاهبرداری‌های تقویت‌شده با هوش مصنوعی آسیب‌پذیرند. مطالعه مجزایی به رهبری Yixin Zou ابزاری به نام ROLESafe را توسعه داد؛ یک ابزار شبیه‌سازی مبتنی بر نقش که وقتی شرکت‌کنندگان به جای مشاهده‌گر غیرفعال، نقش قربانی یا کمک‌کننده را بازی می‌کردند، توانایی آن‌ها در شناسایی کلاهبرداری بهبود یافت.
علاوه بر این، پژوهشگران در Charm Security چارچوب «آسیب‌پذیری‌ها و بهره‌برداری‌های انسانی» (HVE) را پیشنهاد دادند. این یک کاتالوگ ساختاریافته است — شبیه دیتابیس‌های آسیب‌پذیری نرم‌افزاری — که مکانیزم‌های شناختی و اجتماعی مورد استفاده کلاهبرداران را طبقه‌بندی می‌کند. این نشان می‌دهد صنعت امنیت ماشین‌ها را وصله کرده است، اما نقاط ضعف انسان را بدون مستندات رها کرده است.
این آسیب‌پذیری جهانی است. گری شیلدهورن، وکیل فیلادلفیا که هدف کلاهبرداری شبیه‌سازی صدا قرار گرفت، بیان کرد که شک حرفه‌ای نتوانست بر آنچه شنیده غلبه کند: «تا لحظه مرگ سوگند می‌خورم که آن صدای تو بود». همان‌طور که آمیت گوپتا از شرکت Pindrop اشاره کرد، هدف کپی‌برداری کامل نیست، بلکه ایجاد فوریت احساسی است تا قربانی پیش از تأیید هویت، اقدام کند.
گلوگاه‌های سازمانی
متخصصان استدلال می‌کنند که بار دفاع باید از دوش فرد به دوش سازمان‌ها بیفتد. در حال حاضر، اف‌بی‌آی و بانک‌ها «کلمات رمز» را برای خانواده‌ها پیشنهاد می‌دهند. اما این راهکار ناکافی است؛ نمی‌توان از یک فرد ۸۰ ساله که میانگین خسارت گزارش شده او در اواخر ۲۰۲۵ طبق داده‌های FTC بیش از ۱,۶۰۰ دلار بوده، انتظار انضباط شناختی کامل در حالی که صدای جیغ نوه خود را می‌شنود، داشت.
سه نقطه کلیدی برای متوقف کردن این روند وجود دارد:
۱. شبکه‌های تلفنی: در آمریکا، چارچوب STIR/SHAKEN برای احراز هویت شماره تماس استفاده می‌شود. اداره رقابت خطوط FCC در دسامبر ۲۰۲۵ نتیجه گرفت که این سیستم در صورت اجرا کار می‌کند، اما مجرمان با مسیریابی تماس‌ها از شبکه‌های قدیمی غیر-IP، از آن فرار می‌کنند. مهم‌تر اینکه این سیستم شماره را تأیید می‌کند، نه صدا را. اگرچه FCC در فوریه ۲۰۲۴ استفاده از صداهای هوش مصنوعی در تماس‌های انبوه (Robocalls) را غیرقانونی کرد، اما این قانون تنها بر شماره‌گیری‌های انبوه حاکم است، نه تماس‌های اضطراری یک‌به-یک که در کلاهبراری‌های «پدربزرگ و مادربزرگ» استفاده می‌شود.
۲. پلتفرم‌ها: استانداردهایی مثل C2PA یا واترمارک‌های گوگل (SynthID) و متا (AudioSeal) سعی دارند منشأ رمزی رسانه‌ها را ثبت کنند. اما کلاهبرداران هیچ تعهدی ندارند که هنگام تماس، مانیفست C2PA را ارسال کنند. همچنین، «شکاف آنالوگ» — یعنی پخش صوت سنتتیک از طریق یک خط تلفن — واترمارک‌های دیجیتال را در لحظه انتقال نابود می‌کند.
۳. بانک‌ها: این مؤثرترین اهرم است. در بریتانیا، رگولاتور سیستم‌های پرداخت (PSR) در اکتبر ۲۰۲۴ بازپرداخت خسارات کلاهبرداری‌های انتقال وجه اجباری کرد. اکنون بانک‌ها باید مسئولیت خسارات تا سقف ۸۵ هزار پوند را به صورت ۵۰-۵۰ تقسیم کنند و استثنای «سهل‌انگاری مصرف‌کننده» برای مشتریان آسیب‌پذیر ممنوع است.
داده‌های PSR نشان داد تا دسامبر ۲۰۲۵، ۸۹٪ پول‌های از دست رفته (حدود ۲۴۳ میلیون پوند) بازپرداخت شده است که نسبت به ۶۵٪ سابق افزایش یافته است. این مسئولیت مالی، بانک‌ها را مجبور می‌کند تا «اصطکاک انتقال» ایجاد کنند؛ مانند دوره‌های انتظار (Cooling-off) برای برداشت‌های کلان یا تماس‌های تأییدی انسانی برای بازنشستگان. همان‌طور که منتقدان در Electronic Payments International اشاره می‌کنند، بازپرداخت باید با پیشگیری همراه شود، اما مسئولیت مالی همان اهرمی است که پیشگیری را اجباری می‌کند.
نامتقارنی جنایات مدرن
به نقل از برایان لانگ از Adaptive Security، «یک نفر با یک کیبورد در یک اتاق، می‌تواند تعداد بی‌شماری مهاجم بسازد». این نامتقارنی را اینترپل با عددی مشخص کرد: کلاهبرداری‌های تقویت‌شده با هوش مصنوعی ۴.۵ برابر سودآورتر از کلاهبرداری‌های سنتی هستند.
این انگیزه سود باعث انفجاری در حجم حملات شده است. گزارش دسامبر ۲۰۲۵ سازمان FTC نشان داد که خسارات کلاهبرداری برای افراد ۶۰ سال به بالا بین سال‌های ۲۰۲۰ تا ۲۰۲۴ چهار برابر شده و به ۲.۴ میلیارد دلار رسید، که ۶۸٪ از این مبلغ مربوط به خسارات فردی بیش از ۱۰۰,۰۰۰ دلار بوده است. FTC تخمین می‌زند که هزینه واقعی سالانه، با احتساب گزارش‌های نشده به دلیل احساس شرم، می‌تواند تا ۸۱.۵ میلیارد دلار باشد. این حجم از زیان مالی سریع، یادآور حوادثی است که در آن نقص‌های سیستمی و اتوماسیون منجر به خسارات میلیاردی در چشم‌برهم‌زدنی شدند، مانند تراژدی ۴۴۰ میلیون دلاری شرکت Knight Capital در ۴۵ دقیقه.
لیز بنز، مادری از بوفالو که «۲۰ دقیقه وحشت» را تجربه کرد وقتی صدایی شبیه‌سازی شده ادعا کرد پسرش گروگان گرفته شده است، اشاره کرد که بسیاری از قربانیان به دلیل تحقیر، ناشناس می‌مانند. این عدم گزارش‌دهی، پاسخ‌های سیاستی را از شواهدی که برای اقدام نیاز دارند، محروم می‌کند.
برای خروج از این بحران، چهار تغییر ضروری است:
۱. ترک رویکرد تشخیص: پذیرش این واقعیت که تولید از تشخیص پیشی گرفته است؛ «نابینایی» هانی فارید یک وضعیت دائمی است.
۲. تنظیم ابزار: الزام به رضایت تأییدشده پیش از شبیه‌سازی صدا. قانون هوش مصنوعی اتحادیه اروپا و قانون ELVIS در تنسی گام‌های اولیه هستند، اما اجرا کند است.
۳. انتقال مسئولیت: مجبور کردن سازمان‌های گلوگاهی — بانک‌ها، اپراتورها و پلتفرم‌ها — به پذیرش خسارت. وقتی بانک‌ها مالک خسارت باشند، اصطکاک لازم را می‌سازند.
۴. مدیریت آسیب‌پذیری انسانی: استفاده از چارچوب Charm Security برای طراحی مداخلات و حرکت از توزیع بروشور به سمت تمرینات نقش‌آفرینی مانند ROLESafe.
۳۵۲ میلیون دلاری که در سال ۲۰۲۵ توسط قربانیان سالمند از دست رفت، در واقع انتقال ثروت به یک سازمان جنایی بسیار کارآمد است. پر کردن این شکاف نه با آموزش مادربزرگ‌ها برای شک کردن به صدای نوه‌هایشان، بلکه با این تصمیم حاصل می‌شود که سازمان‌های ایستاده بین «شبیه‌سازی» و «پول»، قانوناً مسئول آنچه از میان دستانشان می‌گذرد باشند.
گام بعدی شما
- برای اعضای خانواده خود «کلمه رمز» یا «سؤال امنیتی» تعیین کنید که فقط شما بدانید.
- در صورت دریافت تماس‌های اضطراری مشکور، تماس را قطع کرده و از طریق یک کانال ارتباطی دیگر با فرد مورد نظر تماس بگیرید.
- تنظیمات حریم خصوصی شبکه‌های اجتماعی را بررسی کنید تا نمونه‌های صوتی شما در دسترس عموم نباشد.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو