تصور کنید هوش مصنوعی با اطمینان کامل ادعا کند شما در شبکهای اجتماعی حضور دارید که هرگز در آن ثبتنام نکردهاید. این توهم ساده در ۱۶ سپتامبر ۲۰۲۶، پرده از یک کلاهبرداری پیچیده برای سرقت هویت دیجیتال برداشت.
این اتفاق نشان میدهد که مرز بین جستوجوی مبتنی بر هوش مصنوعی و هویت دیجیتال در حال کمرنگ شدن است. مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — گاهی واقعیت را با دادههای جعلی ترکیب میکند. همانطور که در تحلیل قبلی ما دربارهی مدیریت ریسکهای سازمانی در استارتاپهایی مثل Langdock اشاره کردیم، حالا توسعهدهندگان باید با «ریسکهای هوش مصنوعی» در نحوه نمایهسازی هویت حرفهای خود مقابله کنند.
طبق گزارش این توسعهدهنده، مدل Gemini صفحهای در لینکدین با عنوان «یافتههای امنیتی تأییدشده در برابر ارسالیهای هوش مصنوعی» را بهعنوان منبع معرفی کرد. در این صفحه، حسابی به نام GyaanSetu AI پستهایی دربارهی بستهی نرمافزاری @bananacool467/ui-tools منتشر کرده بود.
به نقل از بررسیهای کاربر، نکته تکاندهنده استفادهی جعلکننده از ضمایر اولشخص («من»، «مال من») برای ادعای مالکیت کدها بود. این حساب جعلی با لینک دادن به پستهای اصلی نویسنده در DEV.to و صفحهی آسیبپذیری OSV برای کد MAL-2026-13416، اعتبار فنی نویسنده را به نفع یک شخصیت ساختگی «پولشویی» میکرد. این رویکرد یادآور مواردی است که در آن فیلترهای امنیتی در برابر فریبهای پیچیده هوش مصنوعی شکست خوردند و امکان سوءاستفاده از حسابهای جعلی فراهم شد.
این مورد یک همافزایی خطرناک را نشان میدهد: مدل هوش مصنوعی دچار توهم (Hallucination) — شبیه دوستی که خاطرهای را با اطمینان اما اشتباه تعریف میکند — میشود و وجود یک پروفایل را تأیید میکند. سپس کاربر با پروفایل «سایهای» مواجه میشود که مدل از آن برای تقویت توهم خود استفاده کرده است. برای کاربران عادی، این یعنی اعتبار حرفهای شما میتواند توسط رباتهای استخراجکننده (Scrapers) دزدیده شود تا آنها با بازنویسی دستاوردهای شما، اعتبار مصنوعی بسازند.
گام بعدی شما
- بهطور منظم بررسی کنید که مدلهای هوش مصنوعی حضور حرفهای شما را چگونه توصیف میکنند.
- اگر مدل زبانی پروفایلی را به شما نسبت داد که متعلق به شما نیست، احتمالاً یک حساب جعلی در حال استخراج دادههای شماست.
- برای جلوگیری از این اتفاق، در پستهای فنی خود از امضاهای دیجیتال یا ارجاعات متقاطع به وبسایت شخصی استفاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو