اگر همین حالا تصویری را در شبکه‌های اجتماعی می‌بینید، احتمالاً نمی‌توانید با اطمینان بگویید واقعی است یا ساخته‌ی ماشین. اما OpenAI می‌خواهد این ابهام را با یک سیستم شناسایی دو لایه به پایان برساند.
این تحول در حالی رخ می‌دهد که جعل عمیق (Deepfake) — شبیه به یک نقاشی بسیار دقیق که سعی می‌کند شما را فریب دهد تا آن را عکس واقعی بپندارید — تهدیدی جدی برای افکار عمومی شده است. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در خروجی مدل‌ها اکنون به اولویت اول شرکت‌های بزرگ تبدیل شده است.
طبق اعلام این شرکت، در ۱۹ مه ۲۰۲۶ دو لایه‌ی حفاظتی فعال شدند:
- C2PA: یک استاندارد باز برای متاداتا — مثل شناسنامه‌ی دیجیتالی که تاریخ تولد و سازنده‌ی عکس را در دل خود دارد — که سیگنال‌های واضحی از هوش مصنوعی به فایل اضافه می‌کند.
- SynthID: یک واترمارک نامرئی توسعه‌یافته توسط گوگل؛ شبیه به جوهری مخفی که فقط با نور خاص دیده می‌شود و حتی با تغییر اندازه یا اسکرین‌شات هم پاک نمی‌شود.
به گزارش منابع داخلی، OpenAI همچنین یک ابزار تأیید عمومی را معرفی کرده است. این ابزار هر دو سیگنال را بررسی می‌کند تا تأیید کند آیا تصویر توسط هوش مصنوعی زاینده (Generative AI) تولید شده است یا خیر.
این استراتژی یک سیستم پشتیبان برای اعتماد ایجاد می‌کند. متاداتا به‌سادگی خوانده می‌شود اما راحت پاک می‌شود؛ در مقابل، واترمارک‌ها سخت پاک می‌شوند اما شناسایی‌شان دشوارتر است. با ترکیب این دو، OpenAI تلاش می‌کند جلوی سیل اطلاعات گمراه‌کننده را بگیرد. البته این طرح تنها زمانی موفق می‌شود که سایر آزمایشگاه‌های هوش مصنوعی نیز به این استاندارد بپیوندند.
گام بعدی شما
- ابزار تأیید عمومی OpenAI را برای بررسی تصاویر مشکوک امتحان کنید.
- استانداردهای C2PA را بررسی کنید تا ببینید چه پلتفرم‌های دیگری در حال پذیرش این سیگنال‌ها هستند.
- تفاوت بین واترمارک‌های نامرئی و متادیتای قابل حذف را در امنیت داده‌ها مطالعه کنید.
اما این مبارزه با جعل عمیق، تنها بخشی از یک نبرد بزرگتر است؛ به بررسی تحلیل ما درباره‌ی آینده‌ی مدل‌های چندوجهی مراجعه کنید.
گفتگو