تصویری که یک مدل هوش مصنوعی تولید می‌کند، ثبت یک رویداد نیست؛ بلکه حدسی جسورانه است که لباس خاطره به تن کرده است. طبق یادداشتی که در ۱۳ سپتامبر ۲۰۲۶ در وب‌سایت dev.to منتشر شد، این جلوه‌های بصری به‌جای تصویر کردن ایده‌ها، لایه‌هایی از ابداعات را روی هم می‌چینند تا نماهای باورپذیر بسازند.
تصور کنید از یک مدل بخواهید آشپزخانه‌ای را در سپیده‌دم رسم کند. احتمالاً بخار بلند شده از یک فنجان یا زاویه خاص یک صندلی را می‌بینید. این جزئیات در واقعیت رخ نداده‌اند؛ آن‌ها نتیجه‌ی یک ماتریس وزن (Weight Matrix) هستند که پیش‌بینی می‌کند ترکیب «سپیده‌دم + آشپزخانه» در میان میلیاردها عکس معمولاً چه شکلی است.
این فرآیند دقیقاً شبیه به یک ویژگی زیست‌شناختی در انسان است. حافظه انسان مثل یک دوربین فیلم‌برداری عمل نمی‌کند، بلکه صحنه‌ها را از تکه‌های پراکنده بازسازی می‌کند و جاهای خالی را با چیزهایی که «معمولاً» آنجا هستند پر می‌کند. این مکانیسم بازسازی حافظه با مفاهیمی چون «فراموشی فعال» به عنوان پیش‌شرطی برای رسیدن به هوش واقعی همسو است. هوش مصنوعی زاینده (Generative AI) — مثل نقاشی که هرگز دنیای واقعی را ندیده اما میلیون‌ها عکس را حفظ کرده و حالا شبیه‌سازی می‌کند — همین کار را سریع‌تر و با تکه‌های بیشتر انجام می‌دهد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی توهمات مدل‌های زبانی اشاره کردیم، این تمایل به «پر کردن جاهای خالی» ریشه در ماهیت احتمالی این سیستم‌ها دارد.
سازوکار جعل بصری
- ماتریس‌های وزن: مدل بر اساس احتمالات آماری استخراج‌شده از مجموعه‌داده‌های عظیم تصمیم می‌گیرد.
- باورپذیری در برابر حقیقت: تصویر برای اینکه «شناختنی» باشد ساخته می‌شود، نه برای اینکه «دقیق» باشد.
- ابداع لایه‌ای: وقتی تصویر برای همراهی با یک متن به کار می‌رود، تبدیل به «حدسی درباره اینکه آن حدس اول باید چه شکلی باشد» می‌شود.
این تغییر به این معناست که مرز بین یک پنجره (نمایی از واقعیت) و یک آینه (انعکاس الگوها) در حال محو شدن است. برای کاربر عادی، خطر اصلی این نیست که تصویر «جعلی» است، بلکه این است که دیگر تفاوت بین یک حدس بازسازی‌شده و یک سند واقعی را تشخیص ندهد. در همین راستا، چالش‌های شناسایی محتوای سنتتیک پیچیده‌تر شده و تأییدیه رمزنگاری جایگزینی برای تحلیل پیکسل در شناسایی ویدیوهای جعلی مطرح شده است.
با تبدیل شدن رسانه‌های سنتتیک به پیش‌فرض روایت‌های بصری، باید تصمیم بگیریم که آیا اصالت هنوز ارزشی دارد یا خیر. باید دقت کنید که صنعت چگونه با موضوع اثبات اصالت (Provenance) برخورد می‌کند و آیا کاربران همچنان باورپذیری آماری را با حقیقت اشتباه می‌گیرند یا خیر. برای مثال، برخی شرکت‌ها مانند اپل سعی دارند با استفاده از امضای دیجیتال پیکسل‌ها در آیفون ۱۸ پرو اصالت عکس‌ها را تضمین کنند.
گام بعدی شما
- هنگام بررسی تصاویر تولید شده، به‌جای پرسیدن «آیا این واقعی است؟»، بپرسید «مدل چه الگوی آماری را برای باورپذیر کردن این صحنه استفاده کرده است؟»
- ابزارهای تشخیص محتوای سنتتیک و متادیتای تصاویر را برای تفکیک سند از حدس دنبال کنید.
- در پروژه‌های بصری، تفاوت بین «تصویر مفهومی» و «سند بصری» را به‌وضوح برای مخاطب مشخص کنید.
اما داستان سخت‌افزاری این تحول و نحوه پردازش این ماتریس‌های عظیم حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو