تصور کنید سال‌ها پژوهش شما در برابر مقاله‌ای قرار بگیرد که یک ماشین در ۲۵ دقیقه نوشته است. این کابوس اکنون برای جامعه‌ی دانشگاهی به واقعیت تبدیل شده است.
این بحران در حالی رخ می‌دهد که فرهنگ «یا منتشر کن یا بمیر» به اوج خود رسیده است. هوش مصنوعی زاینده (Generative AI) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — اکنون مقالاتی می‌نویسد که دیگر با توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — قابل شناسایی نیستند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی اخلاق در مدل‌های زبانی اشاره کردیم، مرز بین کمک ابزاری و جعل در حال محو شدن است.
به گزارش منابع دانشگاهی، شواهد این بحران در حال جمع‌آوری است:
- مت اسپیک از دانشگاه سوری (University of Surrey) انفجار مقالاتی را دید که از داده‌های عمومی NHANES برای یافتن همبستگی‌های تصادفی و بی‌معنی استفاده می‌کردند.
- ماریت مو-پرایس، سردبیر Security Dialogue، گزارش داد که تعداد مقالات ارسالی در سال گذشته ۱۰۰٪ افزایش یافته است.
- ابزار Prism متعلق به OpenAI توانست تنها در ۲۵ دقیقه و ۵۰ ثانیه یک مقاله پژوهشی کامل با نمودار و ارجاعات تولید کند.
این وضعیت یک عدم‌تقارن خطرناک ایجاد می‌کند. یک مدل در چند دقیقه مقاله می‌سازد، اما یک متخصص انسانی برای بررسی آن به ساعت‌ها یا روزها زمان نیاز دارد. وقتی هزینه تولید به صفر می‌رسد، سیستم داوری به گلوگاه تبدیل می‌شود. ما به سمتی می‌رویم که محتوای جعلی و آکادمیک در یک توده خاکستری ادغام می‌شوند.
گام بعدی شما
- پژوهشگران باید برای اثبات اصالت، داده‌های خام (Raw Data) را ارسال کنند.
- استفاده از تصاویر واترمارک‌شده از تجهیزات آزمایشگاهی ضروری است.
- معیارهای اعتبار باید از «تعداد مقالات» به «تأثیر واقعی» تغییر کند.
اما این بحران تنها بخشی از یک مشکل بزرگ‌تر است؛ تأثیر این حجم از داده‌های مصنوعی بر آموزش مدل‌های آینده را در گزارش بعدی بررسی خواهیم کرد.
گفتگو