تصور کنید در میانه یک مکالمه با کسی که ادعا می‌کند از بانک شماست، پیامی روی صفحه ظاهر شود و به شما هشدار دهد که این یک کلاهبرداری است، بدون اینکه هیچ‌کدام از پیام‌های خصوصی شما از گوشی خارج شده باشد. این دیگر یک سناریوی تخیلی نیست، بلکه ابزاری است که اکنون در دسترس کاربران سنگاپوری قرار گرفته است.
طبق اعلام گوگل دیپ‌مایند (Google DeepMind) و آژانس فناوری دولت سنگاپور (GovTech)، در ۱۴ اکتبر ۲۰۲۶ مدلی برای شناسایی کلاهبرداری‌های محلی روی دستگاه (On-device) مستقر شد. این فناوری به کاربران گوشی‌های هوشمند در سنگاپور اجازه می‌دهد در لحظه از الگوهای فریبکارانه و گفتگوهای دستکاری‌شده آگاه شوند، در حالی که پیام‌های خصوصی آن‌ها هرگز دستگاه را ترک نمی‌کند.
زمینه بحران کلاهبرداری
این اقدام در حالی صورت می‌گیرد که مهندسی اجتماعی جایگزین روش‌های ساده‌تر مانند فیشینگ شده است. به نقل از پست وبلاگی جی‌جی گیواکس و میگل د آندرس از گوگل دیپ‌مایند، کلاهبرداری‌ها اکنون بیش از نیمی از تمام جرایم گزارش‌شده در سنگاپور را تشکیل می‌دهند. این دستکاری‌های روان‌شناختی پیچیده، که در آن مهاجمان با ساختن گفتگوهای متقاعدکننده قربانیان را فریب می‌دهند، اکنون مسئول تا ۸۰٪ از کل خسارات مالی هستند. از سال ۲۰۱۹ تاکنون، کلاهبرداری‌ها باعث ضررهای مالی بیش از ۴ میلیارد دلار سنگاپور شده‌اند. این رویکرد دفاعی در حالی توسعه می‌یابد که در جبهه مقابل، استفاده از ربات‌های هوشمند برای اتلاف منابع کلاهبرداران به عنوان یک استراتژی مکمل برای کاهش نرخ موفقیت این حملات مطرح شده است.
همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های زبانی اشاره کردیم، مدل Google Gemini 4 Argon توانست به نرخ حمله ۰.۷٪ در بنچمارک ایمنی Gray Swan دست یابد. اما پروژه جدید، لایه‌های حفاظتی را از محیط آزمایشگاه به لبه‌ی شبکه (Edge Computing) منتقل می‌کند. این مدل در راستای تلاش‌های گسترده‌تر گوگل برای جلوگیری از تزریق پرامپت و افزایش امنیت دسترسی در مدل‌های پیشرفته خود طراحی شده است. مدل‌های عمومی معمولاً در شناسایی تکنیک‌های فریب محلی ناتوان‌اند و به همین دلیل یک رویکرد تخصصی برای بازار سنگاپور لازم بود.
برای اجرای این سیستم روی سخت‌افزارهای معمولی، تیم توسعه از نسخه‌ای تنظیم دقیق (Fine-tuning) شده از مدل سبک Gemma استفاده کرد. تنظیم دقیق شبیه وقتی است که به یک پزشک عمومی، تخصص پوست می‌دهیم؛ مدل کلی است اما روی یک حوزه خاص دقیق می‌شود. برخلاف مدل‌های عمومی، این نسخه روی گفتگوهای واقعی کلاهبرداری در سنگاپور، از جمله جعل هویت بانک‌ها، نهادهای دولتی، چهره‌های محلی و طرح‌های کلاهبرداری رایج در منطقه آموزش دیده است. این امر به هوش مصنوعی اجازه می‌دهد تا تفاوت بین یک گپ دوستانه و بی‌ضرر و یک قصد شکارچی و واقعی را تشخیص دهد.
جزئیات: خط لوله شناسایی دو مرحله‌ای
از آنجا که اجرای یک مدل طبقه‌بندی‌کننده بزرگ باعث تخلیه سریع باتری گوشی می‌شود، این سیستم برای حفظ کارایی از یک فرآیند دو مرحله‌ای استفاده می‌کند:
- مرحله اول: یک طبقه‌بندی‌کننده سبک و کم‌مصرف، تمام پیام‌های ورودی را با کمترین میزان مصرف انرژی برای یافتن تهدیدات احتمالی غربال می‌کند.
- مرحله دوم: اگر تهدیدی شناسایی شود، مدل تنظیم‌شده‌ی Gemma یک ارزیابی عمیق از بستر متن (Context) و یک snapshot بزرگتر از گفتگو انجام می‌دهد تا کلاهبرداری را تأیید یا هشدار خطا را رد کند.
این پردازش محلی حیاتی است زیرا اکثر برنامه‌های پیام‌رسان مدرن از رمزنگاری سرتاسری (End-to-end Encryption) استفاده می‌کنند. اسکنرهای ابری نمی‌توانند این پیام‌ها را ببینند، اما یک مدل روی دستگاه می‌تواند الگوها را قبل از اینکه کاربر اطلاعات حساس یا پول خود را منتقل کند، تحلیل کند. هنگامی که الگوهای دستکاری‌شده شناسایی شوند، یک هشدار در لحظه روی دستگاه ظاهر می‌شود و از کاربر می‌خواهد پیش از به اشتراک گذاشتن پول یا اطلاعات حساس، مکث کند.
حاکمیت و حریم خصوصی
این پروژه در هفته بین‌المللی سایبر سنگاپور ۲۰۲۶ و پس از سخنرانی افتتاحیه کی شانموگام، وزیر ارشد و وزیر امور داخلی در ۱۳ اکتبر معرفی شد. این پروژه از حاکمیت سخت‌گیرانه‌ای پیروی می‌کند. GovTech سه حفاظ (Guardrails) را برای تضمین حریم خصوصی شهروندان اجرا کرد:
- سندباکس حاکمیتی (Sovereign Sandbox): تمام مراحل تنظیم دقیق در محیط مدیریت‌شده گوگل کلاود توسط GovTech انجام شد تا داده‌های آموزشی کاملاً ایزوله بمانند.
- عدم استفاده از داده‌های شهروندان: آموزش مدل به طور سخت‌گیرانه شامل اطلاعات خصوصی یا شناسه‌های شخصی نشد و در عوض بر مجموعه‌داده‌های بی‌نام‌شده از منابع اطلاعاتی و گزارش‌های کلاهبرداری تکیه کرد.
- تست استرس: مدل در برابر مجموعه‌های متنی محلی و گفتگوهای مصنوعی که دسته‌های متنوع کلاهبرداری و تاکتیک‌های در حال تغییر جعل هویت را پوشش می‌دادند، آزمایش شد.
مارک چن، مدیر اعتماد و ایمنی در GovTech سنگاپور، تأکید کرد: «مبارزه با کلاهبرداری نباید به قیمت از دست دادن حریم خصوصی باشد. ما با همکاری گوگل دیپ‌مایند، حفاظت پیشرفته هوش مصنوعی را مستقیماً به دستگاه‌های شهروندان می‌آوریم.»
پیشینه مشارکت ملی هوش مصنوعی
این پروژه بخشی از یک مشارکت ملی گسترده‌تر در زمینه هوش مصنوعی است که در ۲۰ مه ۲۰۲۶ شکل گرفت؛ این همکاری پس از افتتاح آزمایشگاه تحقیقاتی گوگل در سنگاپور در سال قبل از آن صورت گرفت. سایر ابتکارات تحت این چتر همکاری عبارتند از:
- همکاری در زمینه همکار-بالینگر (Co-clinician) هوش مصنوعی با خوشه‌های بهداشت عمومی.
- تحقیقات بیماری‌های عفونی و آمادگی برای پاندمی از طریق کمک ۷ میلیون دلاری به ائتلاف Health for Human Potential در Philanthropy Asia Alliance.
- توسعه یک دستیار دویدن مبتنی بر Gemma برای ورزشکاران نابینا و کم‌بینا با همکاری SG Enable.
- آموزش ابزارهای علمی هوش مصنوعی عامل‌محور (Agentic AI) برای پژوهشگران بنیاد ملی تحقیقات.
- استقرار Gemini for Education برای معلمان از مدارس ابتدایی تا کالج‌های پیش‌دانشگاهی.
- توسعه بنچمارک‌های ایمنی چندزبانه و چندوجهی با همکاری MLCommons و سازمان توسعه رسانه‌ای اینفوکام (IMDA).
برای کاربر عادی، این یعنی تضاد بین «امنیت» و «حریم خصوصی» در حال از بین رفتن است. شما دیگر مجبور نیستید بین یک چت رمزنگاری‌شده و یک چت محافظت‌شده یکی را انتخاب کنید. اگر یک کلاهبردار از تاکتیک‌های فشار روانی استفاده کند، یک هشدار در لحظه روی صفحه شما ظاهر می‌شود و شما را به توقف دعوت می‌کند.
این معماری یک نقشه راه برای فروشندگان سیستم‌عامل و پلتفرم‌های پیام‌رسان فراهم می‌کند. شرکت‌ها می‌توانند با ادغام این مدل‌های سبک، امنیت سطح بالا را بدون به خطر انداختن رمزنگاری (که کاربران تقاضای آن را دارند) ارائه دهند. احتمالاً دولت‌های دیگر نیز برای بومی‌سازی ایمنی هوش مصنوعی متناسب با گویش‌های منطقه‌ای و روندهای کلاهبرداری خاص خود، از این رویکرد «سندباکس حاکمیتی» استفاده خواهند کرد.
گام بعدی شما
- اگر توسعه‌دهنده هستید، معماری «سندباکس حاکمیتی» را برای استقرار مدل‌های محلی در سازمان‌های حساس بررسی کنید.
- در تنظیمات امنیتی گوشی‌های خود به دنبال قابلیت‌های On-device AI برای فیلتر کردن پیام‌ها باشید.
- الگوهای مهندسی اجتماعی جدید را دنبال کنید تا بدانید مدل‌های زبانی کوچک چگونه در حال یادگیری این فریب‌ها هستند.
اما تأثیر این رویکرد بر سیستم‌عامل‌های موبایل حتی عمیق‌تر است — به تحلیل ما درباره‌ی آینده رایانش لبه در اندروید و iOS مراجعه کنید.
گفتگو