تصور کنید سالها روی یک رمان کار کردهاید، اما یک کلیک ساده از سوی یک نرمافزار در بروکلین، تمام قراردادهای نشر شما را به باد دهد. این کابوس اکنون برای نویسندگانی تبدیل به واقعیت شده است که با ابزار تشخیص Pangram روبهرو شدهاند.
این استارتاپ کوچک که در دفتر کوچکی بالای یک رستوران پاپآیز در بروکلین مستقر است، اکنون تصمیم میگیرد کدام نویسندگان چاپ شوند و کدامیک شاهد فروپاشی مسیر شغلی خود باشند. Pangram که توسط مکس اسپرو و بردلی امی تأسیس شده و تنها ۲۴ کارمند دارد، با ارائه امتیازهای درصدی برای تشخیص اینکه آیا متنی توسط یک مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — تولید شده یا خیر، به داور اصلی اصالت در دنیای نشر تبدیل شده است.
این شرکت تا به امروز ۱۳ میلیون دلار سرمایه جذب کرده است؛ رقمی که در برابر بودجههای OpenAI ناچیز است (تنها حدود ۰.۰۰۷۲ درصد بودجه OpenAI) اما قدرت نفوذ آن در صنعت نشر بسیار زیاد است. طبق گزارشها، در ژانویه سال جاری، میا بالارد نویسنده کتاب Shy Girl شاهد لغو قرارداد نشر خود با انتشارات Hachette بود؛ آن هم پس از آنکه مدیرعامل Pangram در شبکه اجتماعی X اعلام کرد ۷۸ درصد این کتاب توسط هوش مصنوعی تولید شده است. این اتفاق نشان داد که تشخیص هوش مصنوعی دیگر یک تمرین آکادمیک نیست، بلکه به مکانیزم دروازهبانی برای مسیرهای شغلی خلاق تبدیل شده است.
صنعت نشر بهطور تاریخی در پذیرش فناوری کند بوده است، اما سیل محتواهای تولیدشده توسط هوش مصنوعی، این صنعت را مجبور به واکنش کرد. بر اساس نظرسنجی Gotham Ghostwriters از ۱٬۴۸۱ نویسنده فعال، ۶۱ درصد از ابزارهای هوش مصنوعی استفاده میکنند و ۷ درصد متونی را منتشر کردهاند که توسط ماشین تولید شده است. این محیط، بازار عظیمی برای ابزارهایی ایجاد کرده است که میتوانند تلاش انسانی را از تولیدات انبوه ماشینی تشخیص دهند. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، تضاد میان بهرهوری ماشین و اصالت انسانی، اکنون به یک میدان نبرد اقتصادی تبدیل شده است.
بنیانگذاران و ساختار شرکت
مکس اسپرو، مدیرعامل ۳۰ ساله شرکت، در لا کرسنتا، حومه لسآنجلس بزرگ شد و در دوران مدرسه عضو تیم رباتیک بود. او در دوران تحصیل در دانشگاه استنفورد با همبنیانگذار خود، بردلی امی، آشنا شد. سابقه حرفهای اسپرو شامل دورهای در گوگل است که روی پروژه FLoC کار میکرد؛ فناوریای که قرار بود با گروهبندی کاربران کروم بر اساس علایق، کوکیهای شخص ثالث را جایگزین کند اما در سال ۲۰۲۲ به دلیل نگرانیهای حریم خصوصی توسط گوگل متوقف شد. اسپرو همچنین در شرکت خودروهای خودران Nuro فعالیت داشت و همکارش بردلی امی سوابقی در تسلا و شرکت بیوتکنولوژی AI-driven Absci دارد.
این دو نفر پس از عرضه ChatGPT در سال ۲۰۲۲، فرصتی تجاری دیدند و در سال ۲۰۲۳ شرکت Checkfor.ai را تأسیس کردند که یک سال بعد به Pangram تغییر نام داد. آنها در بازاری شلوغ در کنار رقبایی مثل Originality.ai و GPTZero و Turnitin وارد شدند، اما به دلیل عملکرد بهتر در تستهای مستقل اولیه، پیشتاز شدند. در جولای سال جاری، این شرکت ۹ میلیون دلار دیگر جذب کرد و مدل جدید خود یعنی Pangram 4 را عرضه نمود. همچنین شش موقعیت شغلی جدید ایجاد کردند تا تعداد کارکنان خود را ۲۵ درصد افزایش دهند.
سازوکار تشخیص: آینهسازی سنتتیک
Pangram صرفاً به دنبال الگوهای تکراری نیست؛ بلکه از فرآیندی به نام «آینهسازی سنتتیک» (Synthetic Mirroring) استفاده میکند. در این روش، سیستم یک متن انسانی را میگیرد و از مدلهای هوش مصنوعی میخواهد متنی بسیار مشابه آن تولید کنند تا مدل یاد بگیرد هوش مصنوعی دقیقاً چگونه سعی میکند از انسان تقلید کند.
برای افزایش دقت، آنها از روش «استخراج منفی سخت» (Hard Negative Mining) استفاده میکنند. این یعنی جستوجوی مجموعهدادهها برای یافتن «مثبتهای کاذب» — متونی که شبیه هوش مصنوعی هستند اما در واقع توسط انسان نوشته شدهاند — و استفاده از این خطاها برای بازآموزی ماشین. اسپرو ادعا میکند تمام مجموعهدادههای آموزشی آنها دارای مجوز قانونی هستند، موضوعی که در فضای فعلی هوش مصنوعی بسیار نادر است. او خاطرنشان میکند که محصول Pangram نسبت به غولهایی مثل ChatGPT یا Claude بسیار کمتر به دادههای حجیم نیاز دارد.
اگرچه این ابزار برای حوزههای حقوقی، استخدام و آموزش طراحی شده، اما نوشتار خلاقانه بزرگترین بخش از متون آموزشی آن را تشکیل میدهد. اسپرو معتقد است شرکتهای هوش مصنوعی اعتماد هنرمندان و نویسندگان را از دست دادهاند و بنابراین Pangram را به عنوان نیروی متقابل و ضروری معرفی میکند.
اهداف بلندپایه و ادغام در پلتفرمها
به نقل از گزارشهای صنعتی، پس از حادثه کتاب Shy Girl، ابزار Pangram برای شناسایی چندین اثر برجسته دیگر به کار گرفته شد:
- یک ستون در بخش Modern Love نیویورک تایمز (امتیاز ۱۰۰٪ هوش مصنوعی).
- برنده جایزه داستان کوتاه Commonwealth (امتیاز ۱۰۰٪ هوش مصنوعی). پس از این مورد، Pangram تمام برندگان از سال ۲۰۱۲ تا کنون را تحلیل کرد و سه مورد مشکوک دیگر را شناسایی نمود.
- رمان Daggermouth (امتیاز ۶۰٪ هوش مصنوعی).
- یک رمان جنایی با عنوان Call Me, I’ll Hide the Body که به قیمت ۲.۴ میلیون دلار فروخته شده بود (امتیاز ۹۷٪ هوش مصنوعی).
در اواخر جولای، پلتفرم Substack این ابزار را در سامانه خود ادغام کرد. این یعنی اکنون خوانندگان میتوانند فوراً بررسی کنند که آیا خبرنامهای که میخوانند توسط هوش مصنوعی نوشته شده یا خیر. این اقدام، ابزار تشخیص را از دستان ویراستاران به دستان عموم مردم سپرد. نمایندگان ساباستک اعلام کردند فلسفه آنها «ضد هوش مصنوعی» نیست، بلکه معتقدند کاربران «باید بدانند چه چیزی مصرف میکنند».
جنجال سوگیری و تبعیض
منتقدان، از جمله پروفسور سام ایلینگورث از دانشگاه ادینبرگ نپیر، استدلال میکنند که تشخیصدهندههای هوش مصنوعی اساساً دارای سوگیری هستند. تحقیقات نشان میدهد این ابزارها بهطور نامتناسبی نویسندگان غیرانگلیسیزبان و افراد دارای تنوع عصبی (Neurodiverse) را که الگوهای نوشتاریشان با «نرم استاندارد» انسانی متفاوت است، به عنوان هوش مصنوعی شناسایی میکنند.
نکته تکاندهنده این است که در سه رسوایی بزرگ Shy Girl، Daggermouth و Call Me, I’ll Hide the Body، همگی نویسندگان رنگینپوست بودند. رجینا بروکس، رئیس انجمن نمایندگان ادبی آمریکا، هشدار میدهد که فرآیند انتخاب متونی که اسکن میشوند، ذاتاً انسانی است و بنابراین در معرض سوگیریهای سیستماتیک قرار دارد. او تأکید میکند که باید به نابرابریهای موجود در صنعت نشر توجه ویژهای شود.
محدودیتهای فنی و شکستها
با وجود اعتمادبهنفس شرکت، تحقیقات مستقل شکافهای بزرگی را نشان میدهد. یک مقاله پژوهشی از دانشگاه نوتـر دیم با عنوان «چرا تشخیص هوش مصنوعی برای سلامت آکادمیک شکست میخورد»، نشان داد که در حالی که Pangram 3.2 ویرایشهای جزئی هوش مصنوعی را در چکیدههای دانشگاهی با دقت ۶۴ تا ۸۰ درصد تشخیص میداد، در برابر «انسانیسازها» (Humanizers) شکست خورد. وقتی متن هوش مصنوعی از یک ابزار انسانیساز عبور کرد، Pangram در کمتر از ۴ درصد موارد توانست آن را شناسایی کند.
سایر محدودیتها عبارتند از:
- شکست در متون کوتاه: عملکرد ابزار در بلوکهای متنی زیر ۱۰۰ کلمه بهشدت افت میکند. این موضوع بهویژه زمانی مشکلساز است که سرویس رایگان اعتبار کلی حدود ۲٬۰۰۰ کلمه میدهد و میانگین ورودیها ۳۵۰ کلمه است.
- تغییرات زمینهای: یک متن یکسان ممکن است بسته به اینکه بهتنهایی اسکن شود یا بخشی از یک سند بزرگ باشد، امتیازات متفاوتی بگیرد.
- نرخ مثبت کاذب: اسپرو ادعا میکند نرخ مثبت کاذب در مدل جدید به ۰.۰۰۴۱٪ رسیده است (کاهش از ۰.۰۱٪). او اعتراف میکند که ابزار او عمداً محافظهکار است و متون مرزی را «انسانی» اعلام میکند تا ریسک خطا کم شود. این بدان معناست که مقالاتی که توسط انسان نوشته شده اما بهشدت توسط هوش مصنوعی بازنویسی شدهاند، همچنان در ۴۱.۳۷ درصد موارد به عنوان «انسانی» تشخیص داده میشوند.
پذیرش در صنعت و اتحادهای مشکوک
در حالی که برخی ناشران سکوت کردهاند، انتشارات Penguin Random House تأیید کرد که ویراستاران ممکن است از ابزارهای تشخیص تأییدشده به عنوان یکی از اجزای یک فرآیند گستردهتر استفاده کنند، اما این ابزارها تعیینکننده نهایی نیستند. انتشارات Simon & Schuster و HarperCollins از اظهارنظر خودداری کردند و Hachette و Macmillan پاسخی ندادند.
در مقابل، برخی آژانسها مانند Aevitas، ابزار Pangram را عمیقتر ادغام کردهاند. تاد شاستر، مدیرعامل مشترک Aevitas، از Pangram برای تحلیل دستنوشتهها و پروپوزالها استفاده میکند که اغلب منجر به «گفتگوهای دشوار» با نویسندگانی میشود که امتیازشان بین ۵۰ تا ۹۵ درصد است. شاستر همچنین به عنوان مشاور با Pangram همکاری میکند و به شرکت در برقراری ارتباط با ناشران کمک میکند.
این پذیرش با پیوندهای آکادمیک تقویت شده است. توهین چاکرابارتی، استاد علوم کامپیوتر دانشگاه استونی بروک، ۱۴٬۴۱۹ رمان خودانتشار را تحلیل کرد و دریافت نزدیک به ۲۰ درصد آنها امتیازات بالای تشخیص هوش مصنوعی دارند. جالب است که چاکرابارتی با تاد شاستر رابطه عاطفی دارد، با مدیرعامل Pangram دوست نزدیکی شده و برای تحقیقاتش اعتبار API رایگان دریافت میکند.
استراتژی «سگ حمله»
رشد Pangram تا حدی مدیون حضور تهاجمی در شبکههای اجتماعی بود. راد برزلاو، روزنامهنگاری که به عنوان پیمانکار شرکت فعالیت میکرد، مانند یک «سگ حمله» عمل میکرد؛ او با استفاده از افزونه Pangram در اینترنت میگشت و کاربران مشکوک به استفاده از هوش مصنوعی را بهصورت علنی رسوا میکرد، زیرا معتقد بود مردم «بیش از حد راحت» از کنار این موضوع عبور میکنند.
اگرچه شرکت بعدها با برزلاو قطع رابطه کرد تا استراتژی خود را تغییر دهد — زیرا پیشبینی میکند که استفاده از هوش مصنوعی در نهایت پذیرفتهتر شود — اما اسپرو همچنان علیه نویسندگانی که آنها را «فریبکار» مینامد، تند صحبت میکند. نقشه راه او شامل «دقت بالاتر» است تا بتواند حتی ویرایشهای جزئی هوش مصنوعی را هم شناسایی کند.
رویکرد اسپرو در مورد دستنوشته Shy Girl تضاد میان نقش شرکت به عنوان داور اخلاقی و روشهایش را نشان میدهد. اسپرو اعتراف کرد متنی که اسکن کرده از یک وبسایت دزدی کتاب (Pirating) گرفته شده بود و با بیتفاوتی گفت: «هر چه هست همین است» و اعتراف کرد که پیش از وارد کردن فایل PDF به سیستم، تمام آن را نخوانده است.
این تغییر به سمت پلیس خودکار به این معناست که یک کلیک ساده اکنون میتواند کل مسیر شغلی یک نویسنده را به خطر اندازد. اسپرو حتی پاداشهای نقدی برای نویسندگانی تعیین کرده که بتوانند ثابت کنند متنی که Pangram آن را هوش مصنوعی تشخیص داده، توسط انسان نوشته شده است؛ هرچند ادعا میکند تاکنون کسی از این پاداش بهرهمند نشده است. در حالی که Pangram قصد دارد به داور اصلی اصالت برای مدارس، ناشران و حوزههای حقوقی تبدیل شود، مرز بین یک «ابزار» و یک «سلاح» هر روز باریکتر میشود.
گام بعدی شما
- اگر نویسنده یا تولیدکننده محتوا هستید، از ابزارهای انسانیساز (Humanizers) برای تست کردن متون خود استفاده کنید تا نقاط ضعف تشخیصدهندهها را بشناسید.
- در قراردادهای نشر یا کاری، بندهای مربوط به «استفاده از هوش مصنوعی» را با دقت بخوانید تا ابزارهای تشخیص به سلاحی علیه شما تبدیل نشوند. این چالشها در سطوح بالای ادبی نیز دیده میشود، چنانکه ۸ برنده و فینالیست جایزه پولیتزر اخیراً استفاده از ابزارهای هوش مصنوعی در آثار خود را افشا کردند.
- برای متون حساس، به جای تکیه بر یک ابزار، از ترکیب چندین تشخیصدهنده و بازبینی انسانی استفاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید. در این راستا، رقابت سختافزاری میان غولها شدت گرفته و تراشه Jalapeño شرکت OpenAI در تلاش است تا با برتری در بهرهوری انرژی، جایگاه انویدیا را به چالش بکشد.
گفتگو