تصور کنید عکسی از چهره خود میگیرید و تنها یک لک کوچک را پاک میکنید، اما ناگهان اینستاگرام شما را به تولید محتوای مصنوعی متهم میکند. این اتفاق برای هزاران کاربر در حال رخ دادن است و اعتبار سیستمهای شفافیت متا را به شدت خدشه زده است. کاربران گزارش میدهند که اینستاگرام بهطور اشتباه برچسب «محتوای AI» را به تصاویری اختصاص میدهد که هرگز با هوش مصنوعی زاینده ساخته نشدهاند. این شکست سیستمی به این معناست که عکاسی استاندارد بهعنوان محتوای مصنوعی علامتگذاری میشود، در حالی که تصاویر واقعاً ساخته شده توسط AI اغلب بهطور کامل از شناسایی میگریزند. این وضعیت باعث میشود کاربران به این نتیجه برسند که دیگر به هیچ چیزی در این پلتفرم نمیتوان اعتماد کرد.
این تلاش برای شفافیت در حالی صورت میگیرد که پلتفرمهای اجتماعی در تلاشاند مرز میان «هوش مصنوعی کمکی» و «هوش مصنوعی زاینده» (Generative AI) — که مثل نقاشی دیجیتالی است که از هیچ، تصویر میسازد — را تعریف کنند. برای اکثر کاربران، ابزاری که یک لک یا پسزمینه را حذف میکند، یک ویرایش استاندارد است، نه یک خلق مصنوعی. اما منطق تشخیص متا (Meta) قادر به درک این تفاوت نیست. بسیاری از ابزارهایی که اکنون علامتگذاری میشوند، از یادگیری ماشین برای انتخاب اشیاء استفاده میکنند؛ فناوریای که فتوشاپ بیش از یک دهه است از آن استفاده میکند، نه ابزارهای تبدیل متن به تصویر که با تصاویر فریبنده مرتبط هستند. همانطور که در تحلیلهای پیشین ما دربارهی استانداردهای واترمارکینگ محتوا اشاره کردیم، نبود یک زبان مشترک برای متادادهها منجر به چنین خطاهای سیستمی میشود.
به گزارش وبسایت ورج (The Verge) در تاریخ ۴ سپتامبر ۲۰۲۶، این خطاهای برچسبگذاری گسترده و متناقض هستند. کاربران در شبکه تردز (Threads) گزارش دادهاند که پس از استفاده از ابزارهای سادهای مثل حذف پسزمینه در کانوا (Canva)، یا حتی ابزارهای جزئی برای رفع لکها، برچسب AI ظاهر میشود. در یک مورد، کاربر اشاره کرد که برچسب تنها پس از حذف یک «نقطه ریز» از عکس ظاهر شده است. کاربر دیگری ادعا کرد که «هر بار که ابزار حذف پسزمینه درگیر باشد»، این برچسب ظاهر میشود. این چالشها در حالی رخ میدهد که بسیاری از تولیدکنندگان محتوا برای بهینهسازی خروجیهای خود از پکیجهای ابزارهای هوش مصنوعی برای خودکارسازی اینستاگرام استفاده میکنند و اکنون با ریسک برچسبزنی اشتباه مواجهاند.
اصطکاکهای فنی
سامانه متا برای شناسایی محتوا بر اسکن متادادههای IPTC و C2PA تکیه دارد؛ استانداردهایی که برای اثبات منشأ محتوا طراحی شدهاند. اما این اجرا از فوریه ۲۰۲۴ دچار مشکل بوده است. در آن زمان، سیستم تصاویری را که متادادههای ادوبی (Adobe) داشتند و نشاندهنده رتوشهای زاینده جزئی بودند، بهعنوان AI شناسایی کرد. متا در آن زمان وعده داد که رویکرد خود را تغییر دهد تا «میزان استفاده از AI در یک تصویر» را بهتر منعکس کند.
بر اساس بررسیها، موارد اخیر شکست این سیستم عبارتند از:
- شناسایی اشتباه ابزارهای کانوا بهعنوان مدلهای مولد. جس برونو، استراتژیست محتوا، گزارش داد که کانوا پذیرفته است برخی ابزارهای کمکی «بهعنوان زاینده علامتگذاری میشدند»، هرچند کانوا اکنون ادعا میکند که این ابزارها بهدرستی علامتگذاری میکنند.
- برچسبگذاری تصاویری که برای جلوگیری از آموزش AI «مسموم» (Poisoned) شدهاند، در حالی که نسخههای عادی و بدون مسمومیت همان عکسها بدون برچسب میمانند.
- شناسایی ویرایشهای استاندارد آیفون؛ مانند عکسهای برند آرایشی About Face. مدیر شبکههای اجتماعی این برند اشاره کرد که عکسی با آیفون گرفته شده و «توسط خودم در اپلیکیشن عکس کمی ویرایش شده است» اما برچسب AI گرفت. این نوع خطاهای بصری یادآور اشتباهات رایج هوش مصنوعی در عکسهای املاک است که میتواند منجر به پیچیدگیهای قانونی و کاهش اعتماد مشتری شود.
- تضاد در گزارشهای کاربران تردز مبنی بر اینکه ابزار حذف پسزمینه کانوا همچنان برچسب AI میگیرد، علیرغم ادعای رفع مشکل توسط کانوا.
شکاف در تشخیص
با وجود وعدههای متا برای تغییر رویکرد جهت انعکاس «میزان استفاده از AI»، نتایج فعلی نشان میدهد که این سیستم مانند یک ابزار کند و غیردقیق عمل میکند. متا درباره متدهای خاص خود سکوت کرده و به درخواستها برای شفافسازی در مورد زمان و نحوه اسکن شاخصهای استاندارد صنعت پاسخ نداده است.
تستها نشان میدهد برچسب AI بهطور مداوم روی تصاویر اپلیکیشن Meta AI ظاهر میشود، اما در شناسایی محتوای مولد متنوع از منابع دیگر ناتوان است. برخی کاربران حتی دریافتند تصاویری که پیش از بهروزرسانی کانوا ویرایش شده بودند، اصلاً متاداده C2PA یا برچسب اینستاگرام دریافت نکردند که این خود نشاندهنده ناسازگاری و بینظمی سیستم است.
این شکست باعث ایجاد اثر «چوپان دروغگو» برای کاربر عادی میشود. وقتی یک برش ساده در آیفون یا حذف پسزمینه در کانوا هشدار AI میدهد، این برچسب دیگر به عنوان سیگنال اعتماد عمل نمیکند و کاربر دیگر به آن توجه نمیکند. در واقع، این وضعیت یک ویژگی امنیتی را به منبع آزار و استرس کاربر تبدیل میکند. این تجربه منفی میتواند به سد شناختی کاربران در پذیرش قابلیتهای AI دامن بزند، چرا که ابزارهایی که قرار بود کار را تسهیل کنند، اکنون باعث پیچیدگی و استرس در جریان کاری شدهاند.
برای کسبوکارها و تولیدکنندگان محتوا، این یک ریسک برندینگ است. همانطور که در مورد About Face دیدیم — برندی که بر استفاده از «هنرمندان واقعی و افراد واقعی» تأکید دارد — برندها اکنون باید بهطور دستی از اصالت خود در برابر برچسبهای خودکار پلتفرم دفاع کنند. این وضعیت دقیقاً نقطه مقابل هدف اثبات منشأ محتوا است: ایجاد یک سابقه قابل اعتماد از حقیقت.
گام بعدی شما
- اگر تولیدکننده محتوا هستید، پستهای خود را برای برچسبهای اشتباه چک کنید.
- بررسی کنید آیا ابزارهای ویرایش شخص ثالث شما متادادههایی تزریق میکنند که اسکنرهای متا آنها را اشتباه تفسیر کنند.
- در صورت برچسبگذاری اشتباه، از قابلیت گزارش (Report) برای اطلاعرسانی به متا استفاده کنید.
اما این نبرد بر سر حقیقت، تنها بخشی از ماجراست؛ اثر این خطاهای سیستمی بر اقتصاد تبلیغات و اعتماد برندها را در گزارش بعدی بررسی خواهیم کرد.
گفتگو