تصور کنید یک گزارش فنی یا پیام حساس را باز میکنید و در همان جملهی اول، حسی غریزی به شما میگوید که نویسنده برای نوشتن این متن هیچ تلاشی نکرده است. این لحظه، همان جایی است که اکثر مخاطبان امروز «دکمه خروج» ذهنی خود را میزنند و خواندن را متوقف میکنند.
کالین برک (Colin Breck) استدلال میکند که انفجار پیشنهادهای طراحی، طرحهای تجاری و خلاصههای جلسات تولیدشده توسط ماشین، دنیایی از متون غیرقابلخوان و تهی از زمینه ایجاد کرده است که فاقد دیدگاه انسانی است. برای بسیاری از متخصصان، خواندن این اسناد به تجربهای طاقتفرسا تبدیل شده است؛ چراکه افرادی که پیش از این بهندرت متنی مینوشتند، حالا ناگهان با کمک ابزارها، حجم عظیمی از مستندات، تیکتها و درخواستهای تغییر کد (Pull Request) تولید میکنند که همگی توسط هوش مصنوعی تولید شدهاند.
این اصطکاک درست زمانی رخ میدهد که مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — در محیطهای کاری فراگیر شدهاند. در حالی که این ابزارها به افراد کمک میکنند سریعتر بنویسند، اما اغلب «صدای» نویسنده را حذف میکنند. این وضعیت یک پارادوکس ایجاد میکند: سهولت در تولید، منجر به سقوط کامل تعامل خواننده میشود. برک این وضعیت را دنیایی توصیف میکند که در آن نوشتهها صرفاً مجموعهای از جملات خارج از زمینه (Context) هستند.
شکاف زمینهای
به نقل از تحلیلهای برک، وقتی کاربر از هوش مصنوعی پرامپت میگیرد، خروجی مفید به نظر میرسد چون کاربر خودش زمینه (Context) لازم را در اختیار دارد. او لاگها، کدها و محدودیتها را ارائه داده است. او پرامپتها را فرموله کرده و مرزها را تعیین کرده است. چون کاربر بخشی از این فرآیند — یعنی یک چرخه پرسش و پاسخ — است، میتواند خروجی را سریعاً مرور کند و تشخیص دهد چه چیزی مرتبط است و چه چیزی غلط.
اما وقتی همین متن برای همکار ارسال میشود، گیرنده مجبور است برای یافتن معنا، به درون لایههای یک ماشین خیره شود. او بخشی از فرآیند جاری تولید نبوده است. او باید متن را بهطور جامع بخواند و هر خط را بررسی کند، به این امید که بتواند زمینهای را که نویسنده حذف کرده، بازسازی کند. در چنین شرایطی، توقف در خواندن طبیعیترین واکنش است.
این گسست در پژوهشهای سینتیا دانلوپ (Cynthia Dunlop) به عدد تبدیل شده است. نظرسنجی او روی پستهای وبلاگی «بوی هوش مصنوعی» نشان داد که ۷۸٪ خوانندگان در صورت شک به نویسنده ماشینی، خواندن را متوقف میکنند. تکاندهندهتر آنکه ۷۱٪ از این افراد میگویند در آینده از آثار آن نویسنده دوری خواهند کرد. برایان کنتریل (Bryan Cantrill) در یادداشتی با عنوان «شورش خواننده»، این وضعیت را به کشیدن «اهرم خروج اضطراری» در مغز تشبیه میکند؛ واکنشی برای حفظ بقای ذهنی در برابر متون تکراری که باعث میشود خواننده در میانه یک جمله، متن را رها کند.
ترجیحات خواننده
قویترین یافته در نظرسنجی دانلوپ این بود که ۹۸٪ مردم بهشدت نوشتههای خودِ نویسنده را — با تمام نقصها، لغزشها و ویژگیهای خاصش — به بازنویسیهای بیروح هوش مصنوعی ترجیح میدهند. نوشتن اصیل همچنان یکی از مؤثرترین راهها برای برقراری ارتباط واقعی با انسانهای دیگر است.
شکست در خلاصهسازی ماشینی
هوش مصنوعی اغلب برای خلاصهسازی گذشتهنگر کارهایی استفاده میشود که پیشتر ساخته شدهاند. این رویکرد، یک سند طراحی را از ابزاری برای ایجاد اجماع و صیقل دادن ایدهها از طریق تفکر کند و متأملانه، به یک خلاصهی مکانیکی تبدیل میکند. دیگر بحثی برای همراه کردن دیگران با یک ایده نیست، بلکه فقط لیستی از جزئیات خستهکننده است که هیچ دیدگاهی در آن نیست. نویسندگان این اسناد اغلب وقتی میبینند خوانندگان تعاملی ندارند، بیصبر میشوند؛ اما تعامل دشوار است وقتی چیزی که ساختهاند از پیش کار میکند و سند فقط یک گزارش خشک است.
در محیطهای فنی، این وضعیت به شکل «ارتباط ماشین با ماشین» ظاهر میشود. خلاصههای Pull Request دقیقاً میگویند چه فایلهایی تغییر کردهاند — کدام فایلها تقسیم یا ادغام شدهاند، چه بخشهایی دستنخورده مانده و چه تستهایی اضافه شدهاند — اما به پرسشهای حیاتی انسانی پاسخ نمیدهند:
- چرا این کار را انجام میدهیم؟
- ارزش واقعی این تغییر چیست؟
- ریسک یا فوریت این کار چقدر است؟
- کجای این متن نیاز به ورودی انسانی دارد؟
- بازبین باید روی چه نقطهای تمرکز کند؟
این تنبلی حتی به همکاریهای تیمی هم سرایت کرده است. برک مثالی میزند از گروهی که از طریق چندین صفحه ویکی به اجماع رسیده بودند. یک عضو جدید، بهجای مشارکت در فرآیند پیچیده و رابطهای بهروزرسانی آن صفحات با گروه، از هوش مصنوعی خواست تا با کپی کردن کارهای قبلی و افزودن یک «چرخش» (Twist) ماشینی، یک صفحه ویکی جدید و حجیم تولید کند.
فرسایش آسیبپذیری
فراتر از اسناد فنی، هوش مصنوعی به ارتباطات شخصی نفوذ کرده است. برک از دریافت پیامی حساس میگوید که مشخص بود با هوش مصنوعی بازنویسی شده تا لحنی ملایم داشته باشد، ظرافتهای گفتگو را رعایت کند و کسی را ناراحت نکند. نتیجه متنی بیروح، سرد و گسسته بود که «آسیبپذیری» (Vulnerability) لازم برای یک رابطه واقعی را حذف کرده بود. پیام تمام اجزای لازم را داشت، اما به عنوان یک کل معنایی نداشت. برک اعتراف میکند که تمایلی به پاسخ دادن به چنین پیامی نداشت و ترجیح میداد طرف مقابل خودش باشد، حتی اگر ریسک رنجاندن او وجود داشت.
این دیدگاه با نظر بیارنه استروستروپ (Bjarne Stroustrup)، خالق زبان C++، همسو است. او معتقد است نوشتههای موفق آنهایی هستند که خواننده بتواند صدای نویسنده و حتی لهجههای عجیب و ویژگیهای خاص او را بشنود. اگر متن شبیه به متون خشک آکادمیک باشد، فقط یک متن خشک دیگر است. استروستروپ استدلال میکند که سخنرانی کردن کمک میکند چون صدای نویسنده را در متن جاری میکند و خواننده میتواند آن صدا را در ذهنش بشنود.
سایمون ساریس (Simon Sarris) در اثر خود با عنوان «مقاومت در برابر خلاصه»، مینویسد که انسان باید با استفاده از تجربیات عینی و حواس خود بنویسد و توصیف شخصی خود از زندگی را به خواننده ارائه دهد. در روابط انسانی ریسک وجود دارد، اما در ارتباط با هوش مصنوعی خیر؛ و تلاش برای حذف این ریسک، در واقع حذف خودِ فرآیند رابطه است.
کجا هوش مصنوعی واقعاً کاربرد دارد؟
با وجود این نارضایتیها، هوش مصنوعی اگر جایگزین صدای نویسنده نشود، دستیاری قدرتمند است. در حالی که بسیاری از کسبوکارها برای بهینهسازی هزینهها از ابزارهای رایگان هوش مصنوعی با هزینه میزبانی صفر استفاده میکنند، کلید موفقیت در استفاده از این ابزارها، حفظ نقش هدایتگر انسان است. برک در یک مقاله آکادمیک برای کنفرانس CIDR در توصیف یک پایگاهداده جدید، از هوش مصنوعی برای کارهای مکانیکی استفاده کرد بدون اینکه اجازه دهد حتی یک خط از متن اصلی را بنویسد. او راهنمای سبک مجله، قالبهای LaTeX، مقالات قبلی، کد منبع و لاگهای تولید را به مدل داد تا فقط در موارد زیر کمک کند:
- تأیید (Verification): بررسی اینکه آیا یک پاراگراف بهدرستی ایندکسهای پایگاهداده یا نحوه مرتبسازی ردیفها در فایلهای Parquet را با ارجاع به کد منبع و متریکهای تولید توصیف کرده است یا خیر. این کار به برک اجازه داد در جریان نوشتن بماند در حالی که AI پاراگراف قبلی را تأیید میکرد.
- کاهش کارهای تکراری: خودکارسازی ارجاعات BibTeX. برک دستورات داخل پرانتز مانند
{TODO: reference the Amazon Aurora paper}را میگذاشت و اجازه میداد AI فرمتبندی را انجام دهد. - پیشنویس فنی: رسم نمودارهای پیچیده با سینتکس TikZ، که نویسنده را از یادگیری این سینتکس دشوار نجات داد.
- ویرایش: شناسایی خطاهای نمادین ریز. در یک مورد، AI متوجه شد که به جای L2 از L1 استفاده شده (که مربوط به تفاوت Gen2 و Gen3 در یک سیستم log-structured merge بود) — اشتباهی که چهار متخصص انسانی متوجه آن نشده بودند.
- انتزاع (Abstraction): نوشتن چکیده (Abstract)؛ چون چکیده مکانیکیترین، موجزترین و غیرانسانیترین بخش مقاله است، برک نسخه AI را کاملاً بدون تغییر پذیرفت.
محدودیتهای احتمال آماری
سقف کیفیت نوشتههای هوش مصنوعی ناشی از فقدان «تجربه زیسته» است. طبق گزارش مورات دمیرباس (Murat Demirbas) در مقالهای با عنوان «امنترین شغل در برابر هوش مصنوعی»، مدلهای زبانی بزرگ برای بهینهسازی احتمال آماری کلمه بعدی طراحی شدهاند. آنها مدل ذهنی از خواننده ندارند و هیچ «پایگاهی در بازی» (Skin in the game) ندارند. برخلاف برنامهنویسی یا حسابداری، نوشتن فرمولاسیون شفاف و خروجی قابل تأییدی ندارد.
این یعنی هوش مصنوعی نمیتواند روایتهایی را مدیریت کند که در برابر فشردهسازی مقاومت میکنند. در مهندسی سیستمها، پاسخ به حوادث (Incident Response) یا روانشناسی، روایت به اندازه حقایق اهمیت دارد. فرآیند کشف، باز گذاشتن فضای ناشناختهها و تمایل به غافلگیر شدن را نمیتوان به یک فرمول تقلیل داد. دمیرباس پیشنهاد میکند که حتی برنامهنویسی در حال تبدیل شدن به نوعی نویسندگی خلاق است که بیشتر معماریمحور و مبتنی بر دیدگاه است.
ایین مکگیلکریست (Iain McGilchrist) در کتاب «مشکل چیزها» استدلال میکند که هرچه موضوعی مهمتر باشد، تقلیل آن به زبان سختتر است. هوش مصنوعی توهم معنا را از طریق اطلاعات مفصل ایجاد میکند، اما نمیتواند کیفیت نوشتهای را تقلید کند که از تجربه واقعی بیرون آمده است. کل را نمیتوان بدون از دست دادن معنای اساسی به اجزا تجزیه کرد. رویکرد مستقیم (تقلیلی) در واقع ابژه خود را نابود میکند.
مبارزه با روند «تنبلی»
برخی اکنون برای حفظ قرارداد اجتماعی بین نویسنده و خواننده اقدام میکنند. برایان کنتریل معتقد است استفاده از LLM برای نوشتن، این قرارداد را باطل میکند؛ خوانندگان نباید انتظار داشته باشند برای فهم جملهای تلاش کنند که نویسندهاش برای خلق آن تلاشی نکرده است.
کنتریل برای مقابله با این روند، از پانگرم (Pangram) استفاده میکند؛ مدلی که برای تشخیص نوشتههای هوش مصنوعی تنظیم دقیق (Fine-tuning) — شبیه وقتی به یک پزشک عمومی، تخصص پوست میدهیم تا روی یک حوزه دقیق شود — شده است تا اطمینان حاصل کند نوشتههای عمومی در شرکت Oxide انسانی باقی میمانند. این ابزار خوانندگان را از تنبلترین اشکال نوشتن AI نجات میدهد، مثلاً زمانی که فردی از AI میخواهد نظرات یک بازبین را خلاصه کند و آن را به عنوان پاسخ خودش ارائه دهد.
تلاشهای دیگر شامل استاندارد ASD-STE100 (انگلیسی فنی سادهشده) است. این استاندارد در دهه ۱۹۸۰ توسط یک گروه کاری هوافضا ایجاد شد و از یک لغتنامه کنترلشده و قوانین گرامری سختگیرانه استفاده میکند. نسخهای از ASD-STE100 برای مدلهای هوش مصنوعی ساخته شده تا دفترچههای راهنمای نصب و Runbookها، حتی اگر ماشینی باشند، شفاف و کاربردی باقی بمانند.
خطر سطحیشدن شناختی
خطری عمیقتر در تکیه به خلاصههای هوش مصنوعی وجود دارد: از دست دادن مدلهای ذهنی پیچیده. وقتی برای سرعت بخشیدن به دریافت اطلاعات از AI استفاده میکنیم، از تلاش برای درک عمیق میگریزیم. سایمون ساریس هشدار میدهد که نتیجهی این خلاصهسازی، اجتناب از نیاز به ساخت یک مدل ذهنی پیچیده است که منجر به کاهش توجه به جزئیات و ناتوانی در تشخیص روابط پیچیده میشود.
نوشتن آگاهانه — یعنی نوشتن برای تفکر عمیق — احتمالاً به یک مهارت با ارزش بالا تبدیل خواهد شد. در دنیایی که با متون سطحی اشباع شده، توانایی ثبت مفاهیم مهم بدون بیان صریح آنها، خالقان انسانی را از اپراتورهای ماشین متمایز میکند. این موضوع بهویژه برای متفکران سیستمها صادق است که کارشان اغلب دشوار است که در قالب کلمات یا خلاصه بیان شود.
اگر از ماشین بخواهید کاری را برایتان انجام دهد، ریسک این است که چیزی را بخواهید که ماشین در آن مهارت دارد (خلاصهسازی)، نه آنچه واقعاً نیاز دارید (بینش). این روند فقط ماشین را آموزش نمیدهد، بلکه انسان را عادت میدهد سؤالات سطحیتری از جهان بپرسد. جستجو برای قطعیت، انسانیت ما را محدود میکند؛ گاهی اوقات، مهمتر این است که کلمات را پیدا نکنیم.
گام بعدی شما
- در اسناد فنی، بهجای درخواست «خلاصهسازی»، از هوش مصنوعی بخواهید نقاط کور یا تناقضات منطقی متن شما را پیدا کند.
- برای ارتباطات حساس، ریسک «نقص انسانی» را بپذیرید؛ صدا و لحن شما ارزشمندتر از یک متن بینقص اما بیروح است.
- تمرین کنید که بخشهای کلیدی متون را بدون کمک ابزارهای خلاصهساز بخوانید تا مدلهای ذهنی شما تحلیلگر باقی بمانند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو