تصور کنید یک مدیر پروژه است که هر روز با پنج نرمافزار مختلف سر و کله میزند و حالا باید ششمین ابزار را یاد بگیرد تا فقط یک خلاصه متنی دریافت کند. این دقیقاً همان نقطهای است که اکثر استقرارهای هوش مصنوعی در سازمانها شکست میخورند.
به گزارش وبسایت dev.to در ۱۸ اوت ۲۰۲۶، مقاومت کاربران در برابر ابزارهای جدید، ناشی از بیزاری از تکنولوژی نیست؛ بلکه واکنشی است به ابزارهایی که جریان کاری را تکهتکه کرده و غیرقابلپیشبینی میکنند. این رویکرد «قابلیتهای چسباندهشده» (Bolted-on features) باعث میشود هزینه بررسی خطاهای مدل، بیشتر از زمانی شود که قرار است توسط اتوماسیون ذخیره شود.
همانطور که در تحلیلهای قبلی ما دربارهی تجربه کاربری (UX) در مدلهای زبانی اشاره کردیم، ابزاری که کاربر را مجبور به تغییر عادتهایش کند، محکوم به فراموشی است. برای مخاطب عام، مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — باید در پسزمینه عمل کند، نه اینکه به عنوان یک مانع جدید در مسیر قرار گیرد.
طبق این گزارش، پیادهسازی مؤثر هوش مصنوعی نیازمند چرخش به سمت «دستیارهای نامرئی» است. نقاط شکست فعلی را میتوان در سه مورد خلاصه کرد:
- اختلال در جریان کار: مجبور کردن کاربر به ترک محیط آشنا برای تعامل با یک رابط کاربری جدید و پرزرقوبرق.
- شکافهای قابلیت اطمینان: ایجاد توهم (Hallucination) — شبیه دوستی که خاطرهای را با اطمینان اما کاملاً اشتباه تعریف میکند — که نیاز به بازبینی دائمی انسانی دارد.
- ارزش پیشنهادی توخالی: ارائه قابلیتهایی که کاربر هرگز درخواست نکرده و هیچ مسئله واقعی در دنیای واقعی را حل نمیکند.
بر اساس بررسیهای این گزارش، اگر کیفیت دادهها پایین یا فرآیند تصمیمگیری سازمان معیوب باشد، هوش مصنوعی صرفاً این مشکلات سیستمی را نمایانتر میکند. در واقع، مدلها ریشه مشکل را حل نمیکنند، بلکه خطاها را در مقیاس وسیعتر تکثیر میکنند و در نهایت، کارمندان باید هر چه را که مدل خراب کرده است، پاکسازی کنند. این مسئله بهویژه زمانی بحرانی میشود که فقدان ساختار در پیادهسازی منجر به ایجاد بدهی فنی شود؛ موضوعی که در بررسی قراردادهای معماری برای جلوگیری از آشفتگی کدهای هوش مصنوعی به آن پرداختیم.
برای یک کارمند عادی، ابزاری که غیرقابلاعتماد باشد، با همان استانداردی سنجیده میشود که هر نرمافزار دیگری سنجیده میشود: «بیفایده است». توسعهدهندگان برای ساخت ابزاری کاربردی، باید دقیقاً کارهایی را شناسایی کنند که کاربران بیشترین نفرت را از آنها دارند و سپس بخشهای خستهکننده و تکراری را حذف کنند تا انسانها روی خلاقیت تمرکز کنند.
گام بعدی شما
- در ابزارهای AI خود، قابلیتهایی را که شما را مجبور به باز کردن تب یا پنجره جدید میکنند، شناسایی و حذف کنید.
- روی اتوماسیونهای «پشتپرده» تمرکز کنید که خروجی را مستقیماً در محیط فعلی شما میریزند.
- نرخ خطای مدل را با زمان صرفشده برای بازبینی مقایسه کنید تا بفهمید آیا واقعاً زمانی ذخیره شده است یا خیر.
اما این مقاومت کاربران تنها نیمی از داستان است؛ تأثیر این رویکرد بر نرخ تمدید اشتراکهای سازمانی (Churn Rate) را در گزارش بعدی بررسی خواهیم کرد.
گفتگو