پرش به محتوای اصلی
پرش به محتوای مقاله

عکس و ویدیوی جعلیِ هوش مصنوعی را چطور تشخیص دهیم

·۲۷ خرداد ۱۴۰۵۳ دقیقه مطالعه۶ بازدید
راهنما
عکس و ویدیوی جعلیِ هوش مصنوعی را چطور تشخیص دهیم
اشتراک‌گذاری

چرا این مهارت دیگر اختیاری نیست

هوش مصنوعی حالا می‌تواند عکس، ویدیو و حتی صدایی بسازد که تشخیصش از واقعی سخت است. این محتوای جعلی به‌سرعت در شبکه‌های اجتماعی و پیام‌رسان‌ها پخش می‌شود و می‌تواند برای فریب، شایعه یا کلاهبرداری به کار رود. توانایی تشخیصِ این جعل‌ها دیگر یک مهارتِ تخصصی نیست؛ یک ضرورتِ روزمره برای هر کاربرِ اینترنت است. در ادامه، هم نشانه‌های ظاهری را مرور می‌کنیم و هم — مهم‌تر از آن — عادتی را که حتی وقتی نشانه‌ها از بین بروند کار می‌کند.

نشانه‌های یک تصویرِ ساختگی

هیچ نشانهٔ قطعی‌ای وجود ندارد، اما چند جا را همیشه با دقت نگاه کنید:

  • دست‌ها و انگشت‌ها. هوش مصنوعی هنوز در ساختِ دستِ درست ضعیف است؛ انگشتِ اضافه، کج یا به‌هم‌چسبیده یک نشانهٔ رایج است.
  • نوشته‌ها. متنِ داخلِ تصویر (تابلو، کتاب، لباس) اغلب بی‌معنا یا درهم است، چون مدل حروف را واقعی نمی‌فهمد.
  • چشم‌ها، دندان‌ها و گوش‌ها. تقارنِ نادرست، تعدادِ عجیبِ دندان، یا گوشی که با گوشِ دیگر نمی‌خواند نشانهٔ رایجی است؛ بازتابِ نور در دو چشم هم اغلب با هم هماهنگ نیست.
  • مو و لبه‌ها. تارهای مو که در پس‌زمینه ذوب یا محو می‌شوند، و لبه‌های اشیا که به‌طورِ غیرطبیعی نرم یا تکراری به نظر می‌رسند.
  • بیش‌ازحد بی‌نقص. پوستِ بسیار صاف، تقارنِ غیرطبیعی، یا صحنه‌ای که «زیادی عالی» است، جای شک دارد.
  • جزئیاتِ پس‌زمینه. اشیای کج‌ومعوج، بازتاب‌های نادرست، الگوهای تکرارشونده‌ای که به‌هم می‌ریزند، یا سایه‌هایی که با نورِ صحنه نمی‌خوانند.

یک هشدارِ مهم: نبودِ این نشانه‌ها دلیلِ واقعی‌بودن نیست. فشرده‌سازی، کیفیتِ پایینِ تصویرِ بازنشرشده، یا صرفاً یک مدلِ بهتر می‌تواند نشانه‌ها را پنهان کند — برای همین هیچ‌وقت فقط به «نشانه‌ای ندیدم» تکیه نکنید.

همیشه عیب در خودِ تصویر نیست

یک نکتهٔ مهم: گاهی خودِ تصویر کاملاً واقعی است، اما با شرحِ نادرست بازنشر می‌شود — عکسی واقعی از یک رویداد، با ادعای زمان و مکانِ اشتباه. این نوعِ فریب هیچ نشانهٔ بصری‌ای ندارد و فقط با بررسیِ منبع لو می‌رود. پس همیشه فقط دنبالِ «نقصِ فنیِ تصویر» نگردید؛ گاهی مشکل در ادعای همراهِ تصویر است، نه در خودِ تصویر.

ویدیو و صدای جعلی (دیپ‌فیک)

در ویدیو، به هماهنگیِ لب با صدا، پلک‌زدنِ غیرطبیعی، و لبه‌های صورت دقت کنید؛ این‌ها در دیپ‌فیک اغلب اشکال دارند. چند نشانهٔ دیگر هم هست: رنگ و نورِ صورت که با گردن و بدن نمی‌خواند، داخلِ دهان و دندان‌ها که هنگامِ حرف‌زدن مبهم می‌شوند، و موهایی که لبه‌شان می‌لرزد. در صدا، ریتم و احساسِ غیرطبیعی، نفس‌نکشیدن در جای درست، تلفظِ عجیبِ بعضی کلمات، یا یکنواختیِ بیش‌ازحد می‌تواند نشانهٔ ساختگی‌بودن باشد. باز هم هیچ‌کدامِ این‌ها قطعی نیست — فقط زنگِ خطر است.

مطمئن‌ترین کار: منبع را بررسی کنید

تشخیصِ نشانه‌ها مفید است، اما چون این مدل‌ها هر روز بهتر می‌شوند، نشانه‌ها هم کم‌رنگ‌تر می‌شوند. پایدارترین مهارت این است:

  • جست‌وجوی معکوسِ تصویر کنید: عکس را در گوگل ایمیجز یا ابزارهای مشابه آپلود کنید تا ببینید اولین‌بار کجا و کِی منتشر شده و آیا واقعاً همان چیزی است که ادعا می‌شود.
  • منبع را بسنجید: چه کسی منتشرش کرده و آیا معتبر است؟ یک حسابِ تازه‌ساز یا ناشناس، خودش یک علامتِ هشدار است.
  • خوانشِ جانبی: به‌جای ماندن روی همان پست، در چند منبعِ معتبرِ دیگر بگردید که آیا همان خبر را پوشش داده‌اند؛ اگر یک ادعای بزرگ فقط در یک جا هست، جای شک دارد.
  • به محتوایی که احساساتِ شدید برمی‌انگیزد یا خیلی شوکه‌کننده است بیشتر شک کنید — دقیقاً همان چیزی که می‌خواهند سریع و بدونِ فکر به‌اشتراک بگذارید.

وقتی مطمئن نیستید چه کنید

ساده‌ترین قاعده این است: اگر مطمئن نیستی، بازنشر نکن. هیچ‌کس از نفرستادنِ یک عکس ضرر نمی‌کند، اما پخشِ یک جعل می‌تواند به کسی آسیب بزند یا یک شایعه را شعله‌ور کند. یک مکثِ کوتاه و یک جست‌وجوی ساده، پیش از زدنِ دکمهٔ «فوروارد»، بیشترِ جعل‌ها را همان‌جا متوقف می‌کند.

جمع‌بندی

با بهترشدنِ هوش مصنوعی، روزی می‌رسد که از روی ظاهر نمی‌شود جعل را از واقعی جدا کرد. به همین خاطر، مهم‌ترین دفاع، نشانه‌ها نیست؛ یک عادتِ ساده است: قبل از باور و بازنشر، یک لحظه مکث کن و منبع را بررسی کن. در دنیایی که هر تصویری می‌تواند ساختگی باشد، شک‌کردنِ سالم، خودش نوعی باهوش‌بودن است.

چرا این موضوع مهم است؟

محتوای جعلیِ ساختهٔ هوش مصنوعی دیگر استثنا نیست؛ بخشی از چیزی است که هر روز در شبکه‌های اجتماعی می‌بینیم. ندانستنِ راهِ تشخیص، یعنی آسیب‌پذیری در برابرِ شایعه و کلاهبرداری — و دانستنش، یک سپرِ ساده اما مؤثر.

تأثیر برای ایران

این محتوای جعلی به‌سرعت در پیام‌رسان‌ها و شبکه‌های اجتماعیِ فارسی‌زبان دست‌به‌دست می‌شود، جایی که سرعتِ بازنشر بالا و بررسیِ منبع کم است. برای کاربرِ ایرانی، عادتِ «اول بررسی، بعد بازنشر» یکی از کاربردی‌ترین مهارت‌های سواد رسانه‌ای است.

·نگاه ما
تحریریه دات‌هوش

نگاهِ دات‌هوش: دنبالِ یک «ابزارِ جادوییِ تشخیصِ جعل» نباشید؛ چنین چیزی به‌شکلِ قابل‌اعتماد وجود ندارد و نشانه‌ها هم با بهترشدنِ مدل‌ها محو می‌شوند. مهارتِ واقعی، فنی نیست، رفتاری است: شک‌کردنِ سالم و بررسیِ منبع پیش از باور. همان عادتی که در کلِ کار با هوش مصنوعی توصیه می‌کنیم.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

موضوع‌ها

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.