اگر برای پژوهشهای استراتژیک به شرکتهای مشاوره مدیریت اعتماد میکنید، احتمالاً با یک بحران اعتبار مواجه شدهاید. تصور کنید گزارشی که برای تصمیمگیریهای کلان دولتها نوشته شده، به جای واقعیت، از توهمات یک مدل زبانی تغذیه شده باشد.
طبق گزارش GPTZero، احتمال اینکه گزارش «تحول در حکمرانی» (Transforming Governance) بهطور کامل توسط هوش مصنوعی زاینده (Generative AI) — مثل نویسندهای که تخصصش نه در دانستن حقایق، بلکه در تقلید دقیق از لحن متون رسمی است — تولید شده باشد، ۸۴ درصد است. این یافته بخشی از بررسی گستردهتری است که نشان میدهد چهار گزارش PwC خاورمیانه در بازه زمانی ۲۰۲۴ تا ۲۰۲۶ شامل ادعاهای دروغین و منابع جعلی است.
بر اساس مستندات این ابزار، این اتفاق نمونهای از روند «استناد حسی» (Vibe Citing) در خدمات حرفهای است؛ روشی که در آن منابع بدون بررسی دقیق نویسنده یا لینکهای معتبر، صرفاً برای «حرفهای به نظر رسیدن» اضافه میشوند. همانطور که در تحلیلهای پیشین ما درباره امنیت و خطاهای مدلهای زبانی اشاره کردیم، این الگو پیشتر در سایر شرکتهای بزرگ حسابرسی دنیا مانند KPMG، Deloitte و Ernst & Young نیز مشاهده شده است.
یکی از این گزارشها محصولی به نام Citizen Pulse را تبلیغ میکند و ادعا میکند دولتهای ایالات متحده، عربستان سعودی، دانمارک و استرالیا از این ابزار استفاده میکنند. با این حال، تحلیلهای GPTZero هیچ مدرکی برای اثبات این ادعاهای خاص پیدا نکرد.
به گزارش فایننشال تایمز، PwC خاورمیانه اعلام کرده که دقت دادهها برای آنها اولویت است و در حال «بهروزرسانی تعداد محدودی از استنادهای پشتیبان» است. با این حال، این شرکت هنوز توضیح نداده است که چگونه این خطاها از فیلترهای نظارتی عبور کرده و به چاپ رسیدند.
برای رهبران کسبوکار، این اتفاق شکافی خطرناک در حاکمیت شرکتی را نشان میدهد: تکیه بر هوش مصنوعی برای پژوهشهای حساس بدون بازبینی دقیق انسانی. وقتی یک مؤسسه مشاوره جهانی در تأیید منابع خود شکست میخورد، یعنی «افزایش بهرهوری» حاصل از مدلهای زبانی بزرگ (LLM) در حال حاضر به قیمت از دست رفتن صداقت واقعیتها تمام میشود.
شرکتها باید پیش از آنکه اعتبارشان خدش شود، سفیدنامههای تولید شده با کمک AI را برای شناسایی «استنادهای حسی» بازرسی کنند. بررسی کنید که آیا فرآیند بازبینی داخلی شما واقعاً میتواند تفاوت یک منبع واقعی را از یک توهم (Hallucination) — شبیه به دوستی که خاطرهای را با اطمینان کامل اما کاملاً اشتباه تعریف میکند — تشخیص دهد یا خیر.
گام بعدی شما
- تمامی گزارشهای منتشر شده در ۶ ماه اخیر که با کمک AI نوشته شدهاند را با ابزارهای حقیقتسنج بازرسی کنید.
- یک پروتکل «تأیید منبع انسانی» اجباری برای هر استناد عددی یا نامهای در اسناد رسمی تعریف کنید.
- اگر از مدلهای زبانی برای پژوهش استفاده میکنید، از متد تولید بازیابیافزا (RAG) — مثل دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — برای کاهش توهمات استفاده کنید.
اما داستان خطرناکتر، نفوذ این مدلهای ساختگی در تصمیمات سیاسی است؛ این روند در محیطهای رقابتیتر مانند کمپینهای انتخاباتی نیز دیده میشود، جایی که ۸۷٪ استراتژیستهای انتخاباتی آمریکا بهصورت روزانه از هوش مصنوعی استفاده میکنند و ریسک پذیرش دادههای نادرست را افزایش میدهند. به تحلیل ما درباره اثرات AI بر حاکمیت دادهها مراجعه کنید.
گفتگو