«تشخیص انسان از ماشین»؛ چالش جدید ویراستاران Bona Books

تصور کنید ماه‌ها وقت خود را صرف پرورش استعدادهای تازه کنید و در نهایت بفهمید که با یک ماشین دست داده‌اید. برای ویراستاران باسابقهٔ انتشارات Bona Books، این کابوس زمانی رخ داد که متوجه شدند آثاری که تقریباً وارد مجموعهٔ «ماه خشم» (Wrath Month) شده بودند، در واقع «روایت‌های مصنوعی» هستند. این ریز-انتشارات متوجه شد که چندین داستان در این مجموعهٔ تخیلی کوئیر، تنها پس از آنکه پذیرفته شده و قراردادهایشان بسته شده بود، توسط هوش مصنوعی تولید شده بودند.

این بحران دقیقاً زمانی رخ می‌کند که صنعت نشر با نامرئی شدن نثر تولیدشده توسط مدل زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — دست‌وپنجه نرم می‌کند. تا همین اواخر، بسیاری از ویراستاران باور داشتند که متون هوش مصنوعی به‌دلیل فقدان نوآوری به‌راحتی قابل شناسایی هستند. در یک پنل ویراستاران کوچک در کنوانسیون فانتزی جهان در سال ۲۰۲۵، مدیر ویراستاری این مجموعه، C.L، با اطمینان هوش مصنوعی را «متن پیش‌بینی‌کنندهٔ تجمل‌یافته» نامیده بود؛ ابزاری که می‌تواند کلماتی تولید کند که از نظر فنی کنار هم قرار می‌گیرند اما هرگز چیزی نمی‌نویسد که ارزش خواندن داشته باشد.

با این حال، ظهور محتواهای بی‌کیفیت یا «اسلاپ» (Slop) که بافت‌های احساسی خاص را تقلید می‌کنند، تهدیدی نامرئی برای نشر انسان‌محور ایجاد کرده است. این چالش شناسایی متون، شباهت زیادی به تلاش‌های کاربران در پلتفرم‌های ادبی دارد که از طریق شناسایی قطعات کد مخفی، متون تولیدشده توسط مدل Claude را ردیابی می‌کنند. طبق گزارش Bona Books، آن‌ها دریافتند که دیگر نمی‌توانند تنها با نگاه کردن به یک داستان AI، منشأ آن را تشخیص دهند. این انتشارات به‌طور تصادفی یک داستان AI را خریدند، برای خرید دومی بسیار نزدیک بودند و سه مورد دیگر را نیز در لیست نهایی (Longlist) یافتند. این مسئله نشان‌دهنده مشکلی است که بسیار فراتر از یک ریز-انتشارات واحد است.

مرحلهٔ کشف

از ژوئن ۲۰۲۵، تیم داوطلب Bona Books تمام انرژی خود را روی مجموعهٔ «ماه خشم» گذاشتند؛ مجموعه‌ای «پر سروصدا، خشمگین و پانک از تخیلات کوئیر» که طراحی شده بود تا خشم جامعهٔ LGBTQIA+ نسبت به وضعیت جهان را به تصویر بکشد. این پروژه ۶۰۶ داستان جسورانه و خشمگین از نویسندگان کوئیر سراسر جهان را جذب کرد؛ داستان‌هایی شامل راک‌استارهای پانک جادویی، همجنس‌گرایان زامبی که از دفن شدن سر باز می‌زنند و «ورِ-دینگوهای» ترنس که پلیس‌ها را می‌خورند. کاهش این تعداد به تنها ۲۰ اثر، چالشی بزرگ بود اما تیم از کیفیت بالای کارها به‌شدت به وجد آمده بود.

یکی از داستان‌های منتخب، یک فانتزی استیم‌پانک و ضداستعماری با عنوان «ماشین‌شکنِ آبا» بود. داستان دربارهٔ زنی کوئیر بود که ماشینی از آهن‌پاره‌ها و خشم می‌سازد تا سرکوبگران استعماری خود را نابود کند. نویسندگان اثر آن را به نویسنده‌ای نوظهور نیجریه‌ای به نام بِلا چاچا (Bella Chacha) نسبت داده بودند. ویراستاران شیفتهٔ این قطعه شدند و احساس کردند شدت اثر تقریباً مقاومت‌ناپذیر است.

آن‌ها همچنین یک رمانس فانتزی حماسی به نام «پوسیدگی در زیر» اثر استیون جکسون (Stephen Jackson) را پذیرفتند. در این داستان، مرد جوانی با یک شبکه مایکلیال (قارچی) ادغام می‌شود تا یک رژیم فاشیستی را سرنگون کرده و دوست‌پسرش را نجات دهد. اگرچه جهان‌سازی داستان نامنظم بود، اما مقیاسی حماسی و تخیلی ارائه می‌داد که لحن مجموعه را گسترش می‌داد. تا جایی که ویراستاران می‌دانستند، این اولین انتشار حرفه‌ای جکسون بود. (Bona Books خاطرنشان می‌کند که چاچا و جکسون نام‌های مستعار هستند، اما اکنون آن‌ها را نام می‌برد تا از ادعاهای مطرح شده پس از فرآیند تأیید دفاع کند).

هشدار در ژوئن ۲۰۲۶ فعال شد، زمانی که ویراستاری دیگر متوجه تکرار یک نام مستعار شد: بِلا چاچا. این نویسنده ناگهان در می ۲۰۲۵ ظاهر شده بود و در مدت تنها ۱۲ ماه، رکورد خیره‌کنندهٔ انتشار ۱۵ داستان در نشریات مختلف را به دست آورده بود. این رکورد شامل ناشران نامدار و رسانه‌های جامعه‌محور می‌شد که برخی از آن‌ها نرخ‌های پرداخت SFWA (انجمن نویسندگان علمی و فانتزی) را پرداخت کرده بودند.

Bona Books ابتدا محتاط ماند. آن‌ها استدلال کردند که یک زن دوجنس‌گرای نیجریه‌ای (همان‌طور که بِلا خود را معرفی کرده بود) ممکن است بیش از دیگران به حریم خصوصی نیاز داشته باشد و بنابراین، حضور حداقلی در فضای آنلاین به‌طور خودکار دلیلی بر تقلب نیست. اما هنگام بازبینی مجدد ارسالیه با «آنتن‌های بیدار»، ویراستاران متوجه تکرار «جملات شاخص» شدند (مانند الگوی «نه X، بلکه Y...») و متوجه فقدان شدید عمق درونی در شخصیت اصلی شدند. جزئیات جهان‌سازی رنگارنگ بود، اما آن‌ها نتوانستند به‌طور منسجم پیش بروند و نقاط حساس و مهم داستان، وزن روایتی به‌طور عجیبی کمی داشتند.

فرآیند راستی‌آزمایی

برای تأیید شک‌ها، تیم Bona Books تاریخچهٔ نسخه‌های ویرایشی دست‌نوشته را تحلیل کرد. آن‌ها متوجه شدند که معمولاً از نویسندگان نوظهور حمایت می‌کنند و داستان‌هایی را می‌پذیرند که نیاز به پشتیبانی ویرایشی بیشتری دارند، که در ابتدا نیاز بِلا به راهنمایی را توجیه می‌کرد. با این حال، تاریخچه نسخه‌ها فقدان تکان‌دهنده‌ای از تعامل نویسندگی را فاش کرد:

• نویسنده تمام اصلاحات خطی (Line-edit) را بدون حتی یک سؤال یا بحث پذیرفت.
• پاسخ‌ها به بازخوردهای پیچیده ویرایشی، عبارات توخالی مثل «ممنون»، «قدردانم» و «سپاس‌گزارم» بود.
• نویسنده پس از بازخوردهای ساختاری «تصویری کلی»، تنها یک تغییر کوچک ایجاد کرد و هیچ توضیحی درباره این اصلاح ارائه نداد.
• هیچ‌یک از نشانه‌های معمول یک نویسنده که با دقت در حال شکل دادن یا تراشیدن داستانی است که خلق کرده، دیده نمی‌شد.

وقتی با این فرد که با نام بِلا چاچا منتشر می‌کرد مواجهه کردند، او در ابتدا با پیامی مفصل و شمرده پاسخ داد و تأکید کرد که انگلیسی زبان دوم اوست. او ادعا کرد که «محیط، ارجاعات و بافت احساسی داستان از آشنایی او با شهر آبا در نیجریه می‌آید» و استدلال کرد که این‌ها «چیزهایی نیستند که بتوان بدون آن پیش‌زمینه به‌طور متقاعدکننده‌ای ساخت».

این اظهارنظر برای ویراستاران شبیه به یک توهم (Hallucination) — مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — بود؛ زیرا دقیقاً کم‌مایگی جهان‌سازی و فقدان ارجاعات خاص بود که آن‌ها را نگران کرده بود. این پدیده یادآور بحران‌های اعتباری بیشتری است که در مدل‌های زبانی دیده می‌شود، جایی که نرخ توهمات در برخی دستیارهای پژوهشی به ۳۱٪ رسیده است. برای هفته‌ها، یک گفتگو absurd (پوچ) در جریان بود: بِلا قول می‌داد مدارک معاصر (یادداشت‌ها، پیش‌نویس‌ها یا پیام‌ها) را ارسال کند اما هیچ‌کدام ظاهر نشدند. او با تأکید با برگزاری جلسه موافقت می‌کرد اما هرگز تاریخ یا زمانی را تأیید نمی‌کرد. در نهایت، او اعتراف کرد که هیچ مدرکی وجود ندارد.

شکست در ملاقات رودررو

Bona Books در نهایت موفق شد یک جلسهٔ ویدیوئی با نویسنده ترتیب دهد. در حالی که شخص مقابل دوربین واقعی، شوخ و جذاب بود، اما نتوانست فرآیند خلاقانهٔ پشت این هنر را توضیح دهد. ویراستاران مجموعه‌ای ساختاریافته از موضوعات را برای بررسی آماده کرده بودند، از جمله منطق پشت انتخاب‌های خاص داستانی و نیات او به‌عنوان یک نویسنده؛ سؤالاتی که طراحی شده بودند تا کسی را که داستان را با AI تولید کرده، درمانده کند.

بِلا پاسخ‌های کلی دربارهٔ جنبه‌های مفهومی مانند تم‌ها و ایده‌ها داد، اما در مورد «قصد نویسندگی» (Authorial Intention) دچار مشکل شد. روایت او از فرآیند خلاقیت تخت بود و آن را به‌سادگی «داشتن یک ایده» و سپس «نوشتن» توصیف کرد. وقتی در مورد طراحی شخصیت یا ساختار تحت فشار قرار گرفت، صرفاً متنِ درخواست (Brief) مجموعهٔ انتشارات را برای ویراستاران تکرار کرد.

گویا‌ترین بخش، توضیح او درباره اصلاحات بود. او ادعا کرد به دنبال بخش‌هایی گشته که در آن‌ها «خیلی خوب عمل نکرده» و سپس آن‌ها را «تغییر داده» است. او ادعا کرد بزرگترین اصلاحش افزودن عناصر ژانری بوده و مدعی شد پیش‌نویس اول اصلاً تخیلی (Speculative) نبوده است. ویراستاران متوجه مضحک بودن مطلق این ادعا برای یک داستان علمی-تخیلی دیستوپیایی شدند که محوریت آن شخصیت اصلی است که یک ربات غول‌پیکر خشمگین می‌سازد!

مقیاس عفونت

پس از کشف مورد چاچا، انتشارات یک حسابرسی کامل از مجموعه انجام داد. آن‌ها متوجه شدند داستان دوم پذیرفته‌شده، یعنی «پوسیدگی در زیر» اثر استیون جکسون نیز همان نشانه‌های خطر را دارد: احساس خلأ در مرکز داستان، جهان‌سازی که در جزئیات دقیق بود اما در کل انسجام نداشت، و ریتمی که به‌طور عجیبی یکنواخت بود.

وقتی با جکسون مواجهه کردند، او پیامی طولانی و باورپذیر فرستاد که حاوی تناقضات عجیبی بود. او فرآیند نوشتن vivid (زنده و شفافی) را توصیف کرد که شامل «۴-۵ سند باز، کارت‌های یادداشت پراکنده در همه جا و کاغذهای پات‌-ایت (Post-it) که همه چیز را پوشانده بود». با این حال، وقتی از او خواسته شد این مدارک را به اشتراک بگذارد یا تماسی برقرار کند، نویسنده هرگز پاسخ نداد.

حسابرسی‌های بیشتر فاش کرد که این مشکل یک اپیدمی است و نه یک اتفاق ایزوله:

• یک داستان دیگر شبیه به AI در میان داستان‌های پذیرفته‌نشده در لیست کوتاه «ماه خشم» یافت شد.
• دو داستان AI‌گونه دیگر در لیست بلند مجلهٔ Fantabulosa! (مجله تخیلی کوئیر آیندهٔ این انتشارات) کشف شدند.

در مجموع، ۵ اثر تخیلی مصنوعی به فرآیند انتخاب آن‌ها نفوذ کرده بودند. این درک ثابت کرد که ایجنت‌ها، ویراستاران و خوانندگان اولیه (Slush Readers) اکنون باید خود را درباره نحوه نوشتن AI آموزش دهند، زیرا نشانه‌ها ظریف‌تر از آن چیزی هستند که پیش‌تر تصور می‌شد. Bona Books در طول تحقیقات به‌طور عمومی سکوت کرد تا از آسیبی که یک اتهام بدون دلیل کافی می‌تواند به یک نویسنده بزند، جلوگیری کند.

هزینه‌های اقتصادی و عاطفی

این نفوذ باعث شد این انتشارات که توسط داوطلبان اداره می‌شود، ماه‌ها تلاش، انرژی و منابع مالی را از دست بدهد. تیم مجبور شد رویه‌های اضطراری جدیدی را از صفر بسازد. آن‌ها با یک ریسک مالی فاجعه‌بار روبرو بودند: اگر دو ماه دیرتر متوجه تقلب می‌شدند، آثار وارد مرحله تولید می‌شدند و احتمالاً با نابود کردن کل چاپ چاپ‌شده مواجه می‌شدند، بدون اینکه پولی برای چاپ مجدد داشته باشند.

برای یک ریز-انتشارات، این وجوه از دست رفته ویران‌گر است. هر پنی از دست رفته، پولی است که نمی‌تواند صرف پرداخت به همکاران انسانی، تولید کتاب‌ها یا خلق هنر رادیکال کوئیر شود. فراتر از پول، یک ضربهٔ عاطفی وجود دارد؛ تیم احساس «خشم» از فریب خوردن را تجربه کرد، که آن‌ها را مجبور کرد به صداهای جدید از طریق یک «لنز زشت و مشکوک» نگاه کنند.

بحران صنعت نشر

Bona Books استدلال می‌کند که صنعت نشر اساساً برای این تغییر آماده نیست و به پاسخ‌های بداهه شرکت Hachette در جنجال Shygirl و شکاف Granta/Commonwealth Prize اشاره می‌کند. آن‌ها با نگرانی خاطرنشان می‌کنند که حتی برندگان جایزه نوبل اکنون اعلام می‌کنند داستان‌های خود را از طریق روابط شخصی با ChatGPT توسعه می‌دهند. این نشان می‌دهد که گفتگوها عمدتاً در فضای خصوصی اتفاق می‌افتد، با این باور احمقانه که ناشران می‌توانند به‌طور مستقل این مسئله را حل کنند. این وضعیت در واقع بازتابی از جایگزینی سریع منطق کسب‌وکار سنتی با جریان‌های کاری مبتنی بر هوش مصنوعی در سال ۲۰۲۶ است، که در آن بهره‌وری بر کیفیت انسانی ارجحیت می‌یابد.

گسست در صنعت در نمایشگاه کتاب لندن ملموس بود. در یک طرف سالن، نویسندگان و هنرمندان علیه AI صف کشیده بودند؛ در طرف دیگر، جلساتی برگزار می‌شد تا بررسی کنند AI چگونه می‌تواند جایگزین نویسندگان، هنرمندان، ویراستاران و گویندگان انسانی شود تا حاشیه سود تولید افزایش یابد.

طبق گزارش Bona Books، نهادهای حرفه‌ای در ارائه حفاظ‌ها شکست خورده‌اند. در حالی که سؤالات مالکیت معنوی برای سرمایه‌داران با سرعت رکوردشکنی حل شد، هیچ غرامتی برای ویراستاران و ناشرانی که باید هزینه‌های اقدامات پیشگیرانه از AI و قراردادهای شکست‌خورده را جذب کنند، وجود ندارد. این انتشارات خواستار حفاظت قانونی از هنر ساخته دست انسان و پایان فرهنگ سکوت است.

این حادثه یک اثر مرتبه دوم خطرناک را نشان می‌دهد: فرسایش اعتماد. وقتی ویراستاران نتوانند به یک دست‌نوشته اعتماد کنند، ممکن است به‌طور ناخواسته نویسندگان متنوع و تازه‌ای را — مانند کسانی که از زمینه‌های ادبی متفاوت هستند — که ردپای آنلاین تثبیت‌شده‌ای ندارند، جریمه کنند.

برای خواننده، این به معنای آن است که عصر «کیوریتوری مورد اعتماد» تحت محاصره است. توانایی تأیید منشأ انسانی دیگر یک پیش‌فرض نیست؛ بلکه اکنون نیازمند یک فرآیند دقیق و جرم‌شناسانه از مصاحبه و ردیابی پیش‌نویس‌ها است که اکثر ناشران کوچک توان مالی آن را ندارند. این انتشارات از استقامت افرادی مانند نیل کلارک که سال‌ها زنگ خطر را به صدا درآورده بودند تقدیر می‌کند، اما استدلال می‌کند که صنعت اکنون باید با این تهدید به گونه‌ای برخورد کند که گویی «هم‌اکنون درون خانه‌های ماست».

Bona Books تاریخ انتشار «ماه خشم» را به پاییز ۲۰۲۶ موکول کرد. آن‌ها تصمیم گرفتند دو داستان جعلی را با سه اثر جدید توسط نویسندگان انسانی جایگزین کنند. آن‌ها «به‌شدت خوشحال» هستند که هایلی پایپر، میمی موندال و بوگی تاکاچ پذیرفته‌اند تا این خلأ را پر کنند و قلم خود را به پروژه lend کنند. این پاسخ، که توسط C.L McCartney, Trip Galey, Robert Berg و Lyam Keer-Keer در ژوئن ۲۰۲۶ امضا شده است، به عنوان فراخوانی برای همبستگی، فروتنی و خشم مقدس است تا اطمینان حاصل شود که نشر متنوع زنده می‌ماند.

گام بعدی شما

• اگر ویراستار یا ناشر هستید، به‌جای تکیه بر ابزارهای شناسایی، ردیابی تاریخچه نسخه‌ها را شروع کنید و پیش‌نویس‌های اولیه را درخواست کنید.
• از نویسندگان بخواهید «منطق تصمیمات ساختاری» اثر خود را در جلسات زنده توضیح دهند.
• برای شناسایی سریع‌تر، به دنبال الگوهای زبانی تکراری (مثل Not X, but Y) و فقدان جزئیات عاطفی عمیق در شخصیت‌ها باشید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.