تصور کنید تماسی از فرزند یا همسرتان دریافت می‌کنید که با همان لحن و اضطراب همیشگی، درخواست کمک مالی فوری دارد؛ اما طرف مقابل در واقع یک مدل ریاضی است. اگر هنوز به غلط‌املایی یا لحن غیرطبیعی در پیام‌های مشکوک تکیه می‌کنید، باید بدانید که این لایه‌ی دفاعی دیگر وجود ندارد.
به گزارش Atharv Gyan، هوش مصنوعی در حال تبدیل کردن داده‌های دیجیتال ما به ابزاری برای کلاهبرداری‌های فوق‌واقع‌گرایانه است. طبق این گزارش، تا ۵ سپتامبر ۲۰۲۶، موانع فنی برای خلق جعل‌های متقاعدکننده به‌طور کامل از بین رفته و امنیت داده‌های شخصی و تلفن‌ها در معرض خطری بی‌سابقه قرار گرفته است.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های زبانی اشاره کردیم، قدرت تولید محتوا اکنون از کنترل کاربران پیشی گرفته است. در گذشته، کاربران کلاهبرداری‌ها را از طریق اشتباهات نگارشی یا جملات نامأنوس تشخیص می‌دادند، اما اکنون هوش مصنوعی زاینده (Generative AI) — شبیه به نویسنده‌ای که تمام متون دنیا را خوانده و می‌تواند هر لحنی را تقلید کند — پیام‌هایی کاملاً حرفه‌ای تولید می‌کند که هیچ ردی از خطا در آن‌ها نیست.
بر اساس مستندات Atharv Gyan، مهاجمان مدرن از چهار مکانیزم کلیدی برای فریب قربانیان استفاده می‌کنند:
- شبیه‌سازی صدا (Voice Cloning): تولید صوتی که دقیقاً تن صدا و آهنگ صحبت کردن یک فرد آشنا را تقلید می‌کند. این فناوری اکنون به قدری پیشرفته شده که تنها با ۳ ثانیه نمونه‌ی صوتی می‌توان نسخه‌ای جعلی و متقاعدکننده از صدای هر فرد ساخت.
- جعل عمیق (Deepfake) تصویری: خلق بازنمایی‌های بصری واقع‌گرایانه برای تماس‌های ویدیویی.
- پروفایل‌های مصنوعی: ساخت شخصیت‌های جعلی در شبکه‌های اجتماعی برای جلب اعتماد اولیه. در این راستا، ابزارهایی مانند ScamLens تلاش می‌کنند تا با تحلیل مهندسی اجتماعی این الگوهای فریب را شناسایی کنند.
- متون تولیدشده توسط LLM: حذف خطاهای زبانی که پیش‌تر نشانه‌ی کلاهبرداری بودند.
این تغییر به معنای شکست «دیوار آتش انسانی» است. وقتی صدایی در تلفن دقیقاً شبیه به یک عزیز است، غریزه‌ی روان‌شناختی برای کمک، بر احتیاط فنی غلبه می‌کند. در این وضعیت، برتری کامل با مهاجمی است که می‌تواند حملات شخصی‌سازی‌شده را در مقیاس وسیع و بدون نیاز به تسلط بر زبان مقصد اجرا کند.
برای محافظت از دارایی‌ها و داده‌های خود، باید از جست‌وجوی «سرنخ‌ها» دست بردارید و پروتکل‌های تأیید سخت‌گیرانه‌ای را اجرا کنید. این کار شامل استفاده از کانال‌های ارتباطی ثانویه برای تأیید هویت و مشکوک دانستن تمام درخواست‌های فوری و ناخواسته است، فارغ از اینکه صدا چقدر واقعی به نظر برسد.
گام بعدی شما
- یک «کلمه‌ی رمز خانوادگی» تعیین کنید که فقط اعضای خانواده بدانند و در مواقع اضطراری برای تأیید هویت استفاده شود. این رویکرد در واقع نوعی استفاده از عبارات رمز عبور آنالوگ است که در برابر جعل‌های پیچیده هوش مصنوعی، کارآمدترین سد دفاعی محسوب می‌شود.
- هرگونه درخواست انتقال وجه فوری را از طریق یک پیام متنی یا تماس در شماره‌ای متفاوت اعتبارسنجی کنید.
- دسترسی به داده‌های صوتی و تصویری خود در شبکه‌های اجتماعی را محدود کنید تا مواد خام برای شبیه‌سازی صدا کاهش یابد.
اما لایه‌ی خطرناک‌تر، استفاده از این ابزارها برای نفوذ به سامانه‌های بانکی است — به تحلیل ما درباره‌ی امنیت احراز هویت بیومتریک مراجعه کنید.
گفتگو