تصور کنید یک هکر با استفاده از مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — ایمیلی بنویسد که دقیقاً شبیه لحن مدیر مالی شما باشد. اگر امروز به فیلترهای ایمیل معمولی اعتماد میکنید، باید بدانید که این ابزارها در برابر حملات خودکار و هوشمند کاملاً ناتوان هستند.
در ۱۹ مه ۲۰۲۶، استارتاپ Ocean با جذب ۲۸ میلیون دلار سرمایه از حالت پنهانی خارج شد تا این شکاف امنیتی را پر کند. طبق گزارش TechCrunch، هوش مصنوعی باعث شده فیشینگهای هدفمند (Spear-phishing) از یک فرآیند دستی و زمانبر به یک عملیات کاملاً خودکار تبدیل شوند.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای زبانی اشاره کردیم، توانایی مدلها در جمعآوری دادههای عمومی، امکان ساخت حملات فوقدقیق را فراهم کرده است. شی شوارتز (Shay Shwartz)، بنیانگذار Ocean و پژوهشگر سابق سیستم گنبد آهنین، معتقد است مقیاس این حملات اکنون نیازمند تغییری بنیادین در متدهای دفاعی است.
این دور از تأمین سرمایه توسط Lightspeed Venture Partners رهبری شد و شرکتهای Picture Capital و Cerca Partners نیز در آن مشارکت کردند. Ocean برای حل این مشکل از یک مدل زبانی کوچک (SLM) استفاده میکند — شبیه به یک متخصصِ سریع و کوچک که فقط روی یک موضوع خاص تمرکز دارد و نیازی به تجهیزات عظیم ندارد. این مدل به جای بررسی نام فرستنده، «قصد» (Intent) پیام را تحلیل میکند:
- مقایسه نیت فرستنده با دادههای سازمانی خاص.
- پردازش میلیاردها ایمیل در ماه بهصورت لحظهای.
- همکاری با مشتریانی نظیر Kayak، Kingston Technology و Headspace.
این رویکرد، گذار از «لیستهای سیاه ایستا» به «تحلیل پویای نیت» است. Ocean با قرار دادن یک «نگهبان در هر در»، وابستگی شرکتها به شهود انسانی برای شناسایی کلاهبرداری را کاهش میدهد. برای کسبوکارها، این یعنی هزینه یک نفوذ موفق از طریق فیشینگ میتواند توسط یک لایه خودکار و آگاه به متن خنثی شود.
گام بعدی شما
- بررسی مجدد پروتکلهای تأیید هویت در ایمیلهای حساس سازمانی.
- دنبال کردن احتمال ادغام موتورهای تحلیل نیت در ابزارهای بزرگی مثل Proofpoint.
- آموزش تیمها برای شناسایی الگوهای «دقیق اما غیرعادی» در پیامهای دریافتی.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است؛ بررسی کنید که چگونه تراشههای جدید استنتاج را برای این مدلهای کوچک بهینه میکنند.
گفتگو