تصور کنید متنی را میخوانید که در ابتدا حرفهای به نظر میرسد، اما ناگهان متوجه میشوید نویسنده حتی زحمت فکر کردن به جملاتش را نکشیده است؛ در این لحظه، احتمالاً شما هم مثل اکثر متخصصان، صفحه را میبندید. شکاف عمیقی میان نویسندگانی که از مدلهای زبانی بزرگ (LLM) برای افزایش حجم خروجی خود استفاده میکنند و خوانندگانی که چنین محتوایی را نقض «قرارداد اجتماعی» میبینند، ایجاد شده است. خواندن تأثیری عمیق بر بسیاری از افراد دارد و چون خواندن اهمیت دارد، نوشتن نیز اهمیت دارد. نوشتن فراتر از انتقال ایدههاست؛ نفسِ عملِ نوشتن، نویسنده را مجبور میکند تا ایدههایش را آزمایش و پالایش کند و آنها را مستحکمتر سازد. طبق نظرسنجی سینتیا دانلوپ (Cynthia Dunlop)، ۷۸٪ برنامهنویسان به محض تشخیص متنی که توسط مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — نوشته شده باشد، خواندن آن را متوقف میکنند.
این واکنش به دلیل جستوجوی کمال زبانی نیست. در واقع، ۹۸٪ شرکتکنندگان در این نظرسنجی، یک متن ناقص اما انسانی را به متنی صیقلخورده توسط هوش مصنوعی ترجیح میدهند. مسئله اصلی «اصالت» است؛ خوانندگان معتقدند اگر نویسنده برای خلق یک جمله زحمت نکشیده، خواننده هم نباید برای فهم آن تلاش کند. برای کسانی که زیاد میخوانند، ردپای هوش مصنوعی چنان واضح است که گویی نویسنده با لباس نامرتب در جمع ظاهر شده است (یا به تعبیری، زیپ شلوار فکری نویسنده باز است).
این تغییر نگرش در حالی رخ میدهد که هوش مصنوعی در نوشتارهای حرفهای همهگیر شده است. سالها تصور میشد نثر «بهتر» — حتی اگر مصنوعی باشد — هدف نهایی است. اما اکنون به نظر میرسد «نشانههای ساختاری» هوش مصنوعی چنان آزاردهنده شدهاند که باعث فعال شدن یک مکانیسم دفاعی در ذهن خواننده میشوند تا در میانه جمله، متن را رها کند؛ گویی خواننده برای حفظ سلامت روان خود، از متن بیرون میپرد.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت و اعتماد در مدلهای زاینده اشاره کردیم، شکاف بین تولید انبوه و پذیرش انسانی در حال عمیقتر شدن است.
هزینه نثر مصنوعی
به گزارش این نظرسنجی، استفاده از هوش مصنوعی برای نوشتارهای عمومی، هزینهای فراتر از دست دادن یک بازدید ساده دارد و منجر به جریمههای برند میشود. نتایج نظرسنجی دانلوپ یک جریمه برند ماندگار را نشان میدهد:
- ۷۱٪ پاسخدهندگان پس از تشخیص محتوای مصنوعی، در آینده بهطور کامل از دنبال کردن آن نویسنده دست میکشند.
- خوانندگان تیکهای سبکی خاصی را به عنوان زنگ خطر شناسایی میکنند؛ برای مثال، عباراتی مانند «و به همین دلیل است که این چارچوب اهمیت دارد!» (and here’s why that framing matters!) بلافاصله باعث تردید خواننده میشود.
- کاربران فعال شبکههای اجتماعی — یعنی همان پیشروانی که باعث ویروسی شدن محتوا میشوند و سلیقه جمعی را هدایت میکنند — شدیدترین واکنشهای منفی را نشان میدهند.
برخی خوانندگان، «آشغالهای متنی» (Slop) تولیدشده توسط مدلها را چنان زننده میبینند که آرزو میکنند نویسنده مجبور شود اثرش را با صدای بلند بخواند تا بفهمد چه چیزی تولید کرده است؛ آنها مطمئن هستند که نویسنده تحمل خواندن اثر خودش را نخواهد داشت. این نشان میدهد نویسندگانِ مدلهای زبانی یا آنقدر کم میخوانند که متوجه این نشانههای بدیهی نمیشوند، یا اصلاً متن خودشان را بازخوانی نمیکنند.
نوشتن با هوش مصنوعی بهتدریج ناکارآمد میشود. این وضعیت شبیه به دوران اسپمهای ایمیلی در اوایل دهه ۲۰۰۰ است. در آن زمان، پیش از ظهور شبکههای اجتماعی، ایمیل ابزار اصلی و «قاتل» اینترنت بود و انفجار اسپمها عمیقاً خستهکننده و ناامیدکننده بود. اما تا اواخر دهه ۲۰۰۰، فیلترهای اسپم چنان پیشرفت کردند که اقتصادِ این کلاهبرداریها فروپاشید و مدل کسبوکار اسپمها متزلزل شد.
امروز کسبوکارهای معتبر در ارسال ایمیلی را که شبیه اسپم باشد نمیبینند، چون برچسب اسپم میتواند اعتبار یک دامنه را نابود کند و برند را لکهدار سازد. جنگ علیه اسپم زمانی تغییر کرد که شناسایی آنها در مقیاس بزرگ ممکن شد؛ اکنون اتفاق مشابهی برای متون تولیدشده توسط هوش مصنوعی در حال رخ دادن است.
ظهور تشخیصهای دقیق
تا پیش از این، ابزارهای تشخیص هوش مصنوعی غیرقابلاعتماد بودند. برخی از آنها به دنبال نشانههای ابتدایی بودند که باعث میشد نویسندگان انسانی که از علائم نگارشی غیرمتعارف استفاده میکردند، به اشتباه متهم شوند. برای مثال، کسی که علاقه زیادی به استفاده از «خط تیره» (em-dash) داشت، ممکن بود توسط تکنیکهای سطحی به غلط به عنوان هوش مصنوعی شناسایی شود و همین موضوع این ابزارها را برای استفاده منظم غیرقابلاعتماد میکرد. تلاشهای دیگر برای استفاده از LLMها جهت شناسایی LLMهای دیگر، با نرخ بالای «منفی کاذب» (False Negative) مواجه بود، زیرا هوش مصنوعی در پذیرفتن متون مصنوعی بیش از حد «خوشبین» و سهلانگار بود.
این وضعیت با مدلهای شرکت پانگرام لبز (Pangram Labs) تغییر کرد. آنها اواخر سال گذشته Pangram 3 را عرضه کردند که جهشی بزرگ نسبت به سایر تشخیصدهندهها بود. در طول ماهها استفاده، ثابت شد که این مدل نرخ «مثبت کاذب» بسیار پایینی دارد؛ یعنی وقتی میگفت متنی مصنوعی است، کاربر میتوانست تقریباً مطمئن باشد که یک LLM بهشدت در تولید آن دخیل بوده است، حتی اگر نرخ منفی کاذب هنوز بالاتر از حد مطلوب بود.
حدود یک ماه پیش، آنها Pangram 4 را معرفی کردند که یک پیشرفت گامجهشی (Step-function improvement) نسبت به نسخه قبلی است. این ابزار در عمل، نرخ بسیار پایینی از مثبت کاذب و منفی کاذب را نشان میدهد و در نتیجه به دقتی خیرهکننده دست یافته است.
به دلیل همین دقت، برخی سازمانها اکنون سیاستهای سختگیرانهای برای اصالت محتوا وضع کردهاند. شرکت اکساید (Oxide) در الزامات داخلی خود (RFD 576) مقرر کرده است که تمام نوشتارهای عمومی باید توسط Pangram به عنوان «تألیف انسانی» تأیید شوند. استاندارد جدید این نیست که فقط از هوش مصنوعی استفاده نشود، بلکه محتوا باید «پاک از پانگرام» (Pangram-clean) باشد تا خواننده اعتماد کند که نویسنده واقعاً پشت کلمات حضور داشته است.
مسئله «همبرگرهای بخارپز»
ارائه نثر مصنوعی به جای اثر اصلی، شبیه به شوخی معروف سریال سیمپسونها درباره «همبرگرهای بخارپز» (Steamed Hams) است؛ جایی که یک همبرگر فستفودی را به عنوان دستور پخت خانگی و خانوادگی معرفی میکنند. مکس اسپرو (Max Spero)، مدیرعامل پانگرام لبز، در گفتگو با پادکست Oxide and Friends این تشبیه را به کار برد. وقتی عمل استفاده از LLM با ارائه غذای بیرونبر به جای غذای خانگی مقایسه میشود، ما دقیقاً با یک وضعیت «همبرگرهای بخارپز» روبرو هستیم.
وقتی نویسندهای از هوش مصنوعی استفاده میکند، در واقع فرآیند «آزمون ایدهها» را متوقف میکند. نوشتن، فکر را پالایش و تقطیر میکند. دور زدن این مرحله یعنی نویسنده دیگر برای خودش نمینویسد، بلکه صرفاً محتوایی را سرو میکند که ممکن است مخاطب را فعالانه دفع کند.
اگر تنها هدف یک نوشته، خدمت به خواننده است و خواننده تصمیم بگیرد شما را نادیده بگیرد — شاید برای همیشه — شما در واقع خودتان را تخریب کردهاید. به جای جذب مخاطب، در حال راندن آنها هستید و اعتبار فکری خود را از دست میدهید.
استاندارد جدید برای صدای سازمانی
برای سازمانهایی که برای «صدای سازمانی» خود ارزش قائلاند، توصیه میشود به سمت محتوای «پاک از پانگرام» حرکت کنند. این یک فراخوان برای هر نهادی است که تحت یک نام مشترک مینویسد — از جمله بنیاد Rust — تا سیاستهای مشابهی را برای حفظ اصالت اتخاذ کند.
این به معنای ممنوعیت کامل هوش مصنوعی نیست؛ این مدلها همچنان ویراستارهایی فوقالعاده برای اصلاح و صیقل دادن پیشنویسهای انسانی هستند. اما خط قرمز اکنون روی «تألیف» (Authorship) کشیده شده است. استاندارد نوظهور این است: پرامپت باید نقش اسکلت را داشته باشد، اما گوشت و پوست متن باید توسط انسان تولید شود تا اعتماد حفظ شود.
اگر نویسندهای معتقد است که ما باید با متونی که صرفاً از یک پرامپت ساخته شدهاند کنار بیاییم، بهتر است وقت خواننده را نگیرد و فقط خودِ پرامپت را منتشر کند تا خواننده درگیر چرخههای تلفشدهی پردازش متن مصنوعی نشود. آینده نوشتارهای ارزشمند آنلاین را نه مهارت انسان در پرامپتنویسی، بلکه توانایی انسان در نشان دادن حضور واقعی و ملموسش در متن تعریف میکند.
گام بعدی شما
- اگر مدیر محتوا هستید، متون کلیدی برند خود را با ابزارهای تشخیص جدید بسنجید تا متوجه شوید آیا صدای برندتان «مصنوعی» شده است یا خیر.
- از هوش مصنوعی برای ساختاردهی و ویراستاری استفاده کنید، اما هرگز اجازه ندهید جملات نهایی را او بنویسد.
- در نوشتههای خود از تیکهای زبانی خاص و تجربیات شخصی استفاده کنید تا حضور انسانیتان برای خواننده ملموس باشد.
اما داستان سختافزاری این تحول و نحوه آموزش مدلهایی که کمتر «ردپا» میگذارند حتی شگفتانگیزتر است — به تحلیل ما دربارهی معماریهای جدید ترنسفورمر مراجعه کنید.
گفتگو