تصور کنید کتابی که در دست کودکتان است، بهجای آموزش مفاهیم علمی، ذهن او را با تودههای متپulsating و صداهای جداشده از بدن پر کند. در حالی که مدلهای زبانی بزرگ وعده هوشمندی در سطح دکترا میدهند، خروجیهای واقعی که به خانهها میرسند، اغلب کابوسی از شکستهای الگوریتمی هستند.
این هجوم محتواهای مصنوعی، نشانهای از روند رو به رشد «زبالههای هوش مصنوعی» (AI-slop) در صنعت نشر است. از آنجا که خریدار دانشنامههای کودکان معمولاً یک रिश्तेدار است که قصد هدیه دادن دارد و نه خودِ کودک، نویسندگان بهجای کیفیت صفحات، روی تعداد زیاد کتاب و جذابیت جلد تمرکز میکنند. طبق گزارشی از lcamtuf.substack.com که در ۲۶ ژوئن ۲۰۲۶ منتشر شد، این کتابها از یک حفره قانونی استفاده میکنند تا بدون ریسک نقض مالکیت معنوی، قیمتها را پایینتر از ناشران سنتی نگه دارند. این پدیده در واقع بازتابی از تکرار الگوهای رفتاری مدلهای زبانی است که منجر به تولید انبوه محتوای بیکیفیت در پلتفرمهایی چون آمازون میشود.
بر اساس بررسی حدود ۲۲۰ عنوان کتاب تولید شده با هوش مصنوعی، یک «یکسانی» سیستماتیک در لحن و سبک روایت دیده میشود. همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، دسترسی گسترده به ابزارها همیشه به معنای کیفیت نیست. این کتابها احتمالاً در اواسط سال ۲۰۲۶ و با استفاده از مدلهای پرچمدار آزمایشگاههای بزرگ آمریکایی تولید شدهاند، اما نتایج بصری آنها اغلب فاجعهبار است. در حالی که برخی محققان روی افزایش تنوع معنایی برای خروج از این یکسانی کار میکنند، خروجیهای تجاری فعلی همچنان در تلهی تکرار گرفتارند.
بررسیهای دقیق روی پرفروشترین کتاب این دسته، خطاهای بصری مشخصی را فاش کرده است:
- انعکاسهای انسانی در آینه که انگار میخواهند از قاب خارج شده و دست دراز کنند.
- ادغام موجودات و درختان در تودههای متحرک و بدخواهانه.
- تغییر شکلهای آناتومیک که اثر «وحشت بدنی» (Body Horror) ایجاد میکند.
این وضعیت نشاندهنده شکاف خطرناکی بین بنچمارکهای مدل و استقرار واقعی است. وقتی سطح هوش مدل بالا باشد اما نظارت انسانی صفر شود، ابزار آموزشی تبدیل به یک گالری سوررئال از وحشت میشود. برای والدین، این یعنی برچسب «پرفروشترین» در بازارگاههای آنلاین، دیگر هیچ تضمینی برای ایمنی یا کیفیت محتوا نیست.
به باور تحلیلگران، خوانندگان باید تا زمان ایجاد استانداردهای نظارتی در صنعت، با شک شدید به مواد آموزشی تولید شده با هوش مصنوعی زاینده (Generative AI) — که شبیه نقاشیگری است که سریع میکشد اما گاهی تعداد انگشتان دست را فراموش میکند — نگاه کنند. قبل از خرید هر کتاب هدیهای که نویسنده آن هوش مصنوعی است، صفحات داخلی را بررسی کنید تا مطمئن شوید کودکتان از یک مدل دچار توهم (Hallucination) — مثل دوستی که خاطرهای را کاملاً اشتباه اما با اطمینان تعریف میکند — آموزش نمیبیند. در حوزههای حساستر، متخصصان برای مقابله با این مشکل از رویکردهای متدیک مانند V.C.C.C برای شناسایی و اصلاح توهمات استفاده میکنند تا دقت اطلاعات را تضمین نمایند.
گام بعدی شما
- هنگام خرید کتابهای آموزشی، حتماً بخش «نمونه صفحات» (Look Inside) آمازون را بررسی کنید.
- به دنبال ناشران تاییدشده باشید تا از محتوای AI-slop دوری کنید.
- در صورت مشاهده محتوای نامناسب، از طریق سیستم گزارش آمازون اطلاع دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است؛ اثر فشار تولید انبوه بر هزینههای استنتاج را در تحلیل ما درباره تراشههای نسل جدید بررسی کنید.
گفتگو