تصور کنید در میانهٔ یک جریان خبری، با ویدیویی روبرو شوید که از هر نظر واقعی است اما در واقع یک جعل عمیق (Deepfake) است؛ حالا ابزاری دارید که در چند ثانیه این حقیقت را فاش می‌کند. گوگل در ۷ اکتبر ۲۰۲۶ وب‌سایتی اختصاصی را راه‌اندازی کرد تا تشخیص محتوای تولیدشده توسط هوش مصنوعی را به یک خدمت عمومی تبدیل کند.
این اقدام، ابزاری را که از سال گذشته و پس از کنفرانس Google I/O تنها در اختیار گروه محدودی از پژوهشگران و خبرنگاران بود، در دسترس همگان قرار می‌دهد. این تحول در حالی رخ می‌دهد که صنعت فناوری با بحران جعل عمیق و انتشار اطلاعات جعلی دست‌وپنجه نرم می‌کند. این چالش‌ها پیش‌تر منجر به آن شد که گوگل به دلیل هجوم اسپم‌های تولیدشده توسط هوش مصنوعی، پاداش‌های امنیتی متن‌باز خود را متوقف کند. همان‌طور که در تحلیل قبلی ما درباره‌ی بهینه‌سازی‌های مدل EmbeddingGemma 2 اشاره کردیم، گوگل پیش‌تر بر روی کارایی تمرکز داشت، اما اکنون اولویت را به شفافیت خروجی‌ها داده است.
این سامانه از فناوری نشان‌گذاری (Watermarking) — شبیه به یک مهر نامرئی که روی هر اثر زده می‌شود و فقط با ذره‌بین مخصوص گوگل دیده می‌شود — به نام SynthID استفاده می‌کند. به گزارش TechCrunch، این سیستم به‌طور عمیق در اکوسیستم گوگل ادغام شده است:
- مدل‌های پشتیبانی‌شده: Nano Banana، Veo، Lyria و Gemini.
- ابزارهای یکپارچه: Flow، ProducerAI و Vids.
- ادغام پلتفرمی: قابلیت تشخیص مستقیماً در مرورگر Google Chrome و اپلیکیشن Gemini تعبیه شده است.
- پشتیبانی از فایل‌ها: این ابزار فرمت‌های متنوعی از جمله JPG، PNG، MP4، MOV، WAV و MP3 را پردازش می‌کند.
بر اساس مستندات گوگل، شرکت‌های OpenAI، NVIDIA و Kakao نیز از SynthID پشتیبانی می‌کنند و انتظار می‌رود Apple به‌زودی به این فهرست بپیوندد. طبق اعلام گوگل، کاربران در حال حاضر روزانه یک میلیون درخواست اعتبارسنجی ثبت می‌کنند.
برای کاربر عادی، این یعنی راهی سریع‌تر برای شناسایی رسانه‌های مصنوعی، اما این ابزار یک راهکار قطعی نیست. شرکت‌های Microsoft و Meta استانداردهای متفاوتی دارند و حتی ابزارهای فعلی گاهی در شناسایی محتوایی که توسط مدل‌های خودشان ساخته شده، شکست می‌خورند. این پراکندگی در استانداردهای نشان‌گذاری، همچنان یک حفره امنیتی بزرگ برای بازیگران بدخواه است.
گام بعدی شما
- وب‌سایت SynthID را برای بررسی فایل‌های مشکوک در جریان اخبار روزانه امتحان کنید.
- در تنظیمات مرورگر کروم، قابلیت‌های جدید اعتبارسنجی محتوا را فعال کنید.
- منتظر به‌روزرسانی‌های iOS برای ادغام این فناوری در دستگاه‌های اپل باشید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو