اگر امروز از کتاب‌های الکترونیکی برای مطالعه استفاده می‌کنید، احتمالاً متوجه شده‌اید که تعداد کتاب‌های بی‌کیفیت و تکراری در فروشگاه‌ها به‌شدت زیاد شده است. حالا اپلیکیشن لیبی (Libby) تصمیم گرفته است کنترل این تجربه را دوباره به دست کاربر برگرداند.
مارک دبوس (Marc DeBevoise)، مدیرعامل اووردرایو (OverDrive)، اعلام کرد که از این ماه، کاربرانی که از این برنامه استفاده می‌کنند می‌توانند محتواهای تولیدشده توسط هوش مصنوعی زاینده (Generative AI) — شبیه به یک نویسنده‌ای که فقط کلمات پرتکرار را کنار هم می‌چیند بدون اینکه معنای واقعی زندگی را بداند — را به‌طور کامل فیلتر کنند. طبق اعلام این شرکت، کاربران اکنون می‌توانند نویسندگی ماشینی، ترجمه‌های خودکار و حتی آثار هنری و کتاب‌های صوتی تولیدشده توسط مدل‌ها را از لیست خود حذف کنند. دبوس که هفته گذشته مدیریت شرکت را بر عهده گرفت، بر این باور است که این اقدام ضروری است و می‌گوید: «ما باید به مردم بگوییم چه چیزی در دسترس است [و] چگونه خلق شده است.»
این تغییر در حالی رخ می‌دهد که دنیای نشر دیجیتال با سیل عظیمی از محتوای ماشینی مواجه است که به آن «آتش‌بار» (Firehose) محتوا می‌گویند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، دسترسی آسان به ابزارهای تولید متن باعث شده است تا کانال‌های نشر شخصی با کتاب‌های بی‌کیفیت اشباع شوند. در حالی که کتابخانه‌های سنتی همیشه بر پایه انتخاب‌های انسانی (Curation) بوده‌اند، ظهور مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — این نظم را به هم زده است.
زمینه و ابعاد عملیاتی
برای درک اهمیت این تصمیم، باید به تاریخچه اووردرایو نگاه کنیم. این شرکت پیشینه‌ای ۴۰ ساله دارد و در ابتدا به عنوان شرکتی فعالیت می‌کرد که کتاب‌ها را برای توزیع روی دیسک‌های منعطف (Floppy Disks) و سی‌دی‌روم‌ها دیجیتالی می‌کرد. در اوایل دهه ۲۰۰۰، این شرکت از طریق مشارکت با کتابخانه‌های محلی، امانت دادن کتاب‌های الکترونیکی را آغاز کرد و در نهایت در سال ۲۰۱۷ اپلیکیشن کاربرپسند لیبی را روانه بازار کرد.
مقیاس عملیاتی این پلتفرم امروز در سطح جهانی بسیار گسترده است:
- گستره: همکاری با ۹۲,۰۰۰ کتابخانه عمومی، مدرسه و دانشگاه در بیش از ۱۱۵ کشور جهان.
- موجودی: کاتالوگی با بیش از ۶ میلیون کتاب که تاکنون بیش از یک میلیارد بار قرض گرفته شده‌اند.
- وضعیت هوش مصنوعی: اکثر این عناوین پیش از موج سال‌های ۲۰۲۰ تا ۲۰۲۲ منتشر شده‌اند. دبوس خاطرنشان می‌کند که هر اثری که در آن دوران منتشر شده، «به طور تعریف، محصول هوش مصنوعی نیست».
مکانیسم کنترل و نظارت
نکته کلیدی این است که لیبی برای برچسب‌گذاری محتوا از ابزارهای خودکار تشخیص هوش مصنوعی (AI Detectors) استفاده نمی‌کند؛ چرا که این ابزارها نرخ خطای بالایی دارند. در عوض، سیستم آن‌ها بر پایه «برچسب‌گذاری خودخواسته‌ی ناشران» (Self-labeling) از طریق متادیتای استاندارد است. این یعنی ناشر باید صادقانه اعلام کند که اثر ماشینی است یا خیر.
جزئیات این سیستم کنترل به شرح زیر است:
- دامنه فیلترینگ: کاربران می‌توانند نویسندگان AI، گویندگان AI برای کتاب‌های صوتی و ترجمه‌های ماشینی را غیرفعال کنند.
- استفاده داخلی: اووردرایو همچنان از هوش مصنوعی برای توصیه‌های داخلی محتوا و بومی‌سازی استفاده می‌کند، اگرچه سال گذشته پس از معرفی برخی ویژگی‌های اکتشافی (Discovery features) با واکنش‌های منفی مواجه شد.
- منابع تأمین: در حالی که لیبی اجازه آپلود مستقیم را نمی‌دهد، با پلتفرم Draft to Digital همکاری می‌کند؛ پلتفرمی که پذیرش کتاب‌های AI را تنها در صورتی می‌پذیرد که «ویرایش گسترده توسط انسان» انجام شده باشد.
مبارزه با «آشغال‌های هوش مصنوعی» (AI Slop)
سایر غول‌های این حوزه نیز واکنش‌های تهاجمی‌تری نشان داده‌اند تا از غرق شدن کاتالوگ‌های خود در محتوای بی‌کیفیت جلوگیری کنند. آمازون در سال ۲۰۲۳ محدودیت‌های شدیدی برای تعداد آپلود روزانه نویسندگان مستقل وضع کرد، اقدامی که بخشی از استراتژی گسترده‌تر این شرکت برای بازنگری در مدل‌های توزیع دیجیتال است و تاثیرات قابل توجهی بر کسب‌وکارهای تولید محتوا و فروشندگان مستقل داشته است. همچنین مایکل تامبلین، مدیرعامل کوبو (Kobo)، اخیراً فاش کرد که پلتفرم آن‌ها تقریباً نیمی از تمام آثار ارسالی نویسندگان مستقل را به‌دلیل نگرانی‌های مربوط به هوش مصنوعی رد می‌کند.
در مورد کتاب‌های صوتی، حساسیت لیبی بیشتر است؛ زیرا با وجود اینکه کتاب‌های صوتی تنها ۱۵٪ از کاتالوگ را تشکیل می‌دهند، اما «مدالیته مورد علاقه» کاربران هستند و تقریباً نیمی از کل استفاده از اپلیکیشن را به خود اختصاص داده‌اند. دبوس استدلال می‌کند که هوش مصنوعی می‌تواند موانع دسترسی به اطلاعات را کاهش دهد، به‌ویژه در بومی‌سازی کتاب‌های صوتی برای انتقال محتوای داخلی به بازارهای بین‌المللی و بالعکس.
با این حال، مدیرعامل این شرکت همچنان ترجیح می‌دهد از گویندگان انسانی به جای روایت‌های ماشینی استفاده شود. او می‌گوید: «هیچ‌چیز جایگزین لمس واقعی انسانی در این موارد نمی‌شود»، هرچند اعتراف می‌کند که ترجمه یک عنوان به ده یا صد زبان مختلف، بدون کمک هوش مصنوعی اغلب از نظر هزینه غیرممکن است. این رویکرد سخت‌گیرانه در برابر محتوای کاملاً ماشینی در سایر صنایع نیز دیده می‌شود؛ برای مثال پلتفرم TIDAL نیز اخیراً درآمدزایی از موسیقی‌هایی را که به‌طور کامل توسط هوش مصنوعی ساخته شده‌اند ممنوع کرد تا ارزش آثار هنری انسانی حفظ شود.
این استراتژی نشان‌دهنده گذار از رویکرد «بدون هوش مصنوعی» (AI-free) به «شفافیت در هوش مصنوعی» (AI-transparent) است. با انتقال بار انتخاب به دوش خواننده، لیبی ریسک تشخیص‌های غلط (مثلاً برچسب زدن اشتباه به آثار انسانی) را حذف کرده و پذیرفته است که محتوای ماشینی اکنون بخشی اجتناب‌ناپذیر از اکوسیستم نشر است.
برای یک خواننده معمولی، این بدان معناست که «لمس انسانی» در کتابخانه دیگر یک تضمین نیست، بلکه به یک «ترجیح قابل انتخاب» تبدیل شده است. همان‌طور که هوش مصنوعی سد ورود نویسندگان جدید را پایین می‌آورد، ارزش گزینش و نظارت تأییدشده توسط انسان (Verified Human Curation) افزایش می‌یابد.
گام بعدی شما
- در به‌روزرسانی‌های بعدی اپلیکیشن خود، به دنبال تنظیمات فیلتر محتوا (Content Filters) بگردید تا فید مطالعه خود را شخصی‌سازی کنید.
- متادیتای نویسندگان مورد علاقه‌تان را بررسی کنید تا مطمئن شوید آثار آن‌ها همچنان انسانی است.
- اگر نویسنده هستید، استانداردهای جدید برچسب‌گذاری متادیتا برای پذیرش در کتابخانه‌های دیجیتال را مطالعه کنید.
این تنها آغاز ماجراست؛ اثر موج‌گونه‌ی این تصمیم بر اقتصاد نشر کتاب‌های الکترونیک را در گزارش بعدی بررسی خواهیم کرد.
گفتگو