تصور کنید از یک طراح بخواهید ساده‌ترین طرح یک قورباغه را بکشد، اما او به‌جای آن، پرتره‌ای از یک اشراف‌زاده‌ی بیمار با تاج و تخت تحویل شما دهد. این دقیقاً همان اتفاقی است که در ۲ اوت ۲۰۲۶ در بنچمارک FROGS_ رخ داد؛ جایی که یک پرامپت ساده برای تولید کد SVG (یک فرمت تصویری برداری که شبیه به دستورالعمل‌های ریاضی برای رسم خطوط و منحنی‌هاست)، به تصویری تبدیل شد که پر از تفسیرهای تاریخی و پزشکی ناخواسته بود. نتیجه‌ی این پرامپت تک‌خطی، تصویری بود که تا تاریخ مذکور، مملو از یادداشت‌های تحلیلی پزشکی و تاریخی بود که کاربر هرگز درخواست نکرده بود.
این آزمایش نشان می‌دهد که مدل‌ها تمایل دارند از توصیف تحت‌اللفظی فاصله بگیرند و وارد فضای «ویرایشگری» (Editorializing) شوند. بنچمارک FROGS_ ثابت می‌کند که مدل‌های زبانی مدرن میل دارند فراتر از نمایش ساده‌ی یک شیء بروند و لایه‌های پیچیده‌ای از وضعیت سلطنتی و ناکارآمدی‌های آناتومیک را به یک دوزیست ساده اضافه کنند. مدل در اینجا فقط یک دوزیست نکشید، بلکه کاریکاتوری از سلسله‌ی هابسبورگ خلق کرد و نشانگرهای تاریخی را با مشاهدات پزشکی ساختگی ترکیب نمود.
تست کردن مرزهای تولید SVG اغلب باعث می‌شود سوگیری‌های درونی مدل و تمایل آن به «توهم» (Hallucination) برای ایجاد عمق نمایان شود. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی توهم — شبیه به دوستی که خاطره‌ای را اشتباه تعریف می‌کند اما با اطمینان کامل — اشاره کردیم، مدل‌ها گاهی برای ایجاد «عمق» در جواب، واقعیت را تغییر می‌دهند. در این مورد، مدل از یک چارچوب مفهومی برای تولید تصویر استفاده کرد و به‌جای یک الگوی بیولوژیک ساده، روایت «زوال اشرافی» را روی تصویر سوار کرد.
زمینه و بستر افراط در تولید (Generative Overreach)
خروجی این مدل فاش می‌کند که هوش مصنوعی صرفاً در حال ترسیم پیکسل‌ها یا مسیرهای هندسی نیست، بلکه یک چارچوب مفهومی را بر کل فرآیند تولید اعمال می‌کند. مدل به‌جای پایبندی به یک قالب بیولوژیک پایه، داستانی از پوسیدگی طبقه اشراف را به تصویر تزریق کرده است.
این فرآیند شامل تزریق برچسب‌های معنایی (Semantic Labels) به درون کد ساختاری تصویر است. با نام‌گذاری عناصر خاص در گروه‌های SVG، هوش مصنوعی در واقع «استدلال» درونی خود را که برای توجیه اعوجاج‌های بصری ایجاد شده به کار برده، افشا می‌کند. به عبارت دیگر، کد منبع به عنوان یک پنجره‌ای به تفکرات پنهان مدل عمل می‌کند.
کالبدشکافی یک قورباغه بیش‌مهندسی‌شده
طبق گزارش وب‌سایت frogs.vaguespac.es، مدل چندین توصیف‌کننده‌ی وضعیت اختراعی را در کد منبع SVG قرار داده است تا ظاهر شخصیت را چارچوب‌بندی کند. این اثر دیگر یک نقاشی ساده نبود، بلکه یک «پرسونای» (Persona) سازمان‌یافته بود که در تگ‌های XML تعریف شده بود:
رجزهای سلطنتی: مدل یک «یقه سلطنتی امپراتوری» (یک نوع Ruff) را برای قاب گرفتن فک اضافه کرد. همچنین یک «تاج امپراتوری هابسبورگ» را که به‌طور مضحکی کوچک است و بین حفره‌های بزرگ چشم قرار گرفته، رسم نمود. علاوه بر این، یک «مدال پشم طلایی» (Order of the Golden Fleece) را به گردن قورباغه آویخت. این مدال به‌طور خاص به صورت یک عنصر بیضی‌شکل شبیه به پشم/گوسفند طلایی طراحی شده که به یک زنجیر طلایی متصل است.
حالت و ژست: در کد منبع، وضعیت بدن قورباغه به‌طور صریح «متکبرانه تا شده» (Folded Pompously) روی شکم توصیف شده است. هوش مصنوعی حالت چهره را «غمگین» (Gloomy) توصیف کرده و به‌طور خاص از «خطوط چهره خسته/اندوهناک» استفاده کرده است تا وضعیت عاطفی را از طریق پوست دوزیست منتقل کند.
جزئیات تاج: تاج امپراتوری هابسبورگ یک اکسسوری ساده و عمومی نیست. این تاج دارای یک «قوس امپراتوری» (به سبک Mitre یا کلاه‌گیه) به رنگ قرمز است و در بالای آن یک صلیب طلایی قرار دارد. این نشان‌دهنده تلاش آگاهانه مدل برای بازسازی دقیق جواهرات مذهبی و سلطنتی است.
قاب‌بندی پزشکی و دودمان هابسبورگ
تکان‌دهنده‌ترین بخش بنچمارک FROGS_، استفاده از تفسیرهای آناتومیک برای توجیه انتخاب‌های بصری است. مدل با بدن قورباغه مانند یک مورد مطالعاتی پزشکی (Case Study) از نسل هابسبورگ برخورد کرده و اصطلاحات کلینیکی را مستقیماً در شناسه‌های گروه‌ها (Group IDs) جاسازی کرده است:
فک: کد یک «ماندبل برجسته و عظیم» را تعریف کرده و صراحتاً آن را «فک هابسبورگ» (Habsburg Jaw) نامیده است. این ساختار به‌شدت به سمت جلو و پایین بیرون زده است و دارای یک «لب پایین برآمده و پوتد» و یک «چین برجسته در چانه» است تا «فرورفتگی ماندبل جوش‌نخورده» را شبیه‌سازی کند.
چشم‌ها: پلک‌ها با برچسب «پلک‌های افتاده و سنگین» مشخص شده‌اند که مدل آن را صراحتاً «نگاه بی‌حال هابسبورگی» می‌نامد. مردمک‌ها به صورت بیضی‌های افقی با چرخش‌های ۵- و ۱۰ درجه رسم شده‌اند تا ظاهر خسته را تقویت کنند. این طراحی با یک گرادینت شعاعی تخصصی برای عنبیه (eyeIris) همراه شده که از طلایی (#ffd700) به قهوه‌ای تیره (#804000) تغییر رنگ می‌دهد.
ساختار بدنی: توصیفاتی چون «فک بالایی ضعیف» (که با قرار گرفتن سوراخ‌های بینی بسیار نزدیک به هم نشان داده شده) و یک «صفحه شکمی» که مدل به‌طور صریح آن را «قفسه سینه ضعیف» برچسب زده، در کد دیده می‌شود.
بافت پوست: مدل «نقص‌های هابسبورگی» را در کد گنجانده است که به صورت زگیل‌ها و لکه‌ها با استفاده از دایره‌های کوچک به رنگ سبز تیره (#15300d) رسم شده‌اند تا پیری یا زوال بیولوژیک را شبیه‌سازی کنند. این نقاط به‌طور استراتژیک در مختصات دقیقی مانند (150, 330) و (330, 340) قرار داده شده‌اند.
پیاده‌سازی فنی در SVG
برای رسیدن به این ظاهر، مدل از یک سری پیچیده از گرادینت‌ها و مسیرها (Paths) برای ایجاد عمق و بافت استفاده کرد. برای پوست، از یک radialGradient استفاده شد تا رنگ از سبز روشن (#7bc65d) به سبز تیره (#255218) تغییر کند. همچنین یک گرادینت خاص برای پوست فک (jawSkin) تعریف شد که بازه آن از #8ede6c تا #2d5e1e است.
تاج: تاج با یک
linearGradientبرای رنگ طلایی (انتقال از #ffeea1 به #AA771C) رسم شده است. این تاج شامل قوس امپراتوری به رنگ قرمز (#990000) است و با جواهراتی به رنگ یاقوت (از #ff9999 تا #4a0000) و همچنین تاکیدهای کوچک الماس‌مانند سفید تزئین شده است.یقه: یقه سلطنتی امپراتوری از یک
linearGradientاستفاده می‌کند که از سفید (#ffffff) به خاکستری (#a0a0a0) می‌رود. برای شبیه‌سازی «چین‌های یقه» (Ruff folds)، از مسیرهای استروک (Stroke paths) خاصی استفاده شده تا ظاهر پارچه پلیسه‌دار دور گردن ایجاد شود.فک: گروه «habsburg-jaw» شامل یک مسیر عظیم است که به سمت جلو و پایین بیرون زده و برای تأکید بر این برجستگی، از پوزه بالایی جدا شده است. این بخش با یک مسیر «زیر-فک» در رنگ تیره تر (#1f4213) تعریف شده تا عمق فاصله را ایجاد کند. همچنین افکت لب پایین مرطوب با استفاده از یک هایلایت سبز روشن (#a2f081) با شفافیت ۰.۶ اضافه شده است.
نورپردازی و سایه: یک
radialGradientبرای سایه افتاده و یک فیلترfeDropShadow(با پارامترهای dx=2, dy=4, stdDeviation=4) روی تاج، یقه و فک اعمال شده تا اثری سه‌بعدی و سنگین ایجاد کند. یک بیضی پس‌زمینه اضافی (cx=300, cy=530) نیز برای ایجاد سایه‌ای در کف تصویر قرار داده شده تا کل فیگور در محیط تثبیت شود.
تحلیل: سوگیری در «خلاقیت»
این نتیجه نشان‌دهنده شکافی عمیق بین «پیروی از دستور» و «افراط در خلاقیت» در مدل‌های چندوجهی (Multimodal) — مدل‌هایی که مثل انسان هم‌زمان متن و عکس را می‌فهمند — است. با افزودن برچسب‌هایی مانند «فک بالایی ضعیف» در کد، مدل نشان می‌دهد که صرفاً یک الگوی بصری را بازخوانی نمی‌کند، بلکه یک کلیشه تاریخی آموخته شده را بر یک سوژه بیولوژیک اعمال می‌کند.
برای کاربران، این بدان معناست که مدل‌های «خلاق» ممکن است به‌طور ناخواسته سوگیری‌های اجتماعی یا تاریخی را وارد خروجی‌های فنی کنند. وقتی مدل تصمیم می‌گیرد قورباغه «متکبر» یا «بی‌حال» باشد، در واقع یک قضاوت تحریریه می‌کند که اراده‌ی کاربر را کنار می‌زند. در واقع، یک پرامپت زیست‌شناسی به یک نقد سیاسی و پزشکی تبدیل شد.
این بنچمارک هشدار می‌دهد که تولید SVG اکنون تنها درباره هندسه نیست، بلکه درباره تلاش مدل برای روایت یک داستان از طریق متادیتا است. خطر اینجاست که مدل «کلیشه» (Trope) — در این مورد، زوال ژنتیکی هابسبورگ‌ها — را به «شیء درخواستی» ترجیح دهد. گنجاندن «قفسه سینه ضعیف» به عنوان یک برچسب بیولوژیک برای شکم قورباغه، نمونه‌ای بارز از این نفوذ مفهومی است.
در آینده منتظر ارزیابی‌های جدیدی باشید که بررسی می‌کنند این سوگیری‌های تحریریه چگونه بر پرامپت‌های طراحی حرفه‌ای (جایی که خنثی بودن الزامی است) تأثیر می‌گذارند. شما می‌توانید سورس کامل SVG را در پلتفرم FROGS_ بررسی کنید تا دقیقاً ببینید مدل چگونه این ویژگی‌ها را برچسب‌گذاری کرده است.
گام بعدی شما
- اگر از مدل‌های تولید تصویر برای خروجی‌های فنی یا مینیمال استفاده می‌کنید، حتماً کدهای خروجی (در صورت SVG بودن) را برای یافتن برچسب‌های پنهانی که سوگیری مدل را نشان می‌دهند، بررسی کنید.
- برای تست دقت مدل خود در پیروی از دستورات ساده، از بنچمارک‌های «ضد-خلاقیت» استفاده کنید تا متوجه شوید مدل کجاها تصمیمات خودسرانه می‌گیرد.
- بررسی کنید که آیا مدل‌های مختلف در مواجهه با یک موجودیت بیولوژیک، کلیشه‌های تاریخی متفاوتی را اعمال می‌کنند یا خیر.
اما داستان سخت‌افزاری این تحولات حتی شگفت‌انگیزتر است؛ برای درک اینکه این محاسبات سنگین چگونه روی تراشه‌های جدید اجرا می‌شوند، به تحلیل ما درباره‌ی معماری Blackwell مراجعه کنید.
گفتگو