اگر امروز یک چتبات را در اتاق جلسات به مدیران نمایش میدهید و آنها را شگفتزده میکنید، احتمالاً هنوز محصولی نساختهاید. تفاوت میان یک دموی خیرهکننده و یک تجربه کاربردی در این است که اولی فقط یکبار درست کار میکند، اما دومی باید در ساعت ۲ بامداد و در بدترین شرایط هم قابلاتکا باشد.
به نقل از دلون شوارتز (Delon Swartz)، مهندس طراحی هوش مصنوعی مستقر در دوربان آفریقای جنوبی، شکست اکثر پروژههای سازمانی به این دلیل است که تیمها با یادگیری ماشین مثل یک پروژه پژوهشی برخورد میکنند، نه یک چالش طراحی محصول. این چالشها اغلب به دلیل وجود شکاف ارزیابی میان مدلهای زبانی و محصولات تجاری رخ میدهد که مانع از تبدیل دموها به ابزارهای عملیاتی میشود. شوارتز که مؤسس ModusMax AI است و از طریق Delon Labs UX فعالیت میکند، تمرکز آثار عمومی خود را بر هوش مصنوعی کاربردی (Applied AI)، جریانهای کاری عاملمحور و عرضه محصولات کامل گذاشته است. او معتقد است نمره دقت در یک نوتبوک کدنویسی، به معنای داشتن یک محصول نیست و یک چتبات که فقط در اتاق جلسات کار میکند، یک تجربه قابلاتکا محسوب نمیشود.
امروزه اکثر نقشههای راه سازمانی شامل یک اسلاید درباره هوش مصنوعی هستند، اما تعداد کمی از آنها به این موضوع میپردازند که یادگیری ماشین کاربردی (Applied ML) چگونه فرآیند طراحی را بهطور بنیادی تغییر میدهد. شوارتز در یک راهنمای میدانی توضیح میدهد که موفقیت مستلزم همراستایی سه سیستم مجزا است:
- سیستم یادگیری (Learning System): شامل دادهها، استراتژیهای آموزش یا پرامپتنویسی، ارزیابی و نظارت.
- سیستم تعامل (Interaction System): پوششدهنده رابط کاربری (UI/UX)، مجوزها، توضیحات و نحوه بازیابی از خطا.
- سیستم عملیاتی کسبوکار (Business Operating System): شامل سیاستها، نقشها، توافقنامههای سطح خدمات (SLA)، حسابرسی و مدیریت تغییرات.
طبق این راهنما، نادیده گرفتن هر یک از این سه رکن به شکست سیستمی منجر میشود. طراحانی که سیستم یادگیری را نادیده میگیرند، در واقع فقط «ریسک را تزیین میکنند»؛ در حالی که مهندسان یادگیری ماشین بدون توجه به سیستم تعامل، ابزارهای قدرتمندی میسازند که هیچ دستگیرهای برای کنترل ندارند. رهبرانی که عملیات کسبوکار را نادیده میگیرند، در واقع «IT سایه» (Shadow IT) ایجاد میکنند که توسط شبکههای عصبی هدایت میشود.
اصول تجربه کاربری احتمالی (Probabilistic UX)
شوارتز تأکید میکند که چون خروجیهای یادگیری ماشین (ML) ذاتاً نامطمئن هستند، رابطهای کاربری باید این موضوع را بدون استفاده از اصطلاحات فنی منتقل کنند. او چندین الگوی عینی برای هوش مصنوعی در محیط تولید پیشنهاد میکند:
- نمایش آگاه از اطمینان: نمایش سطوح اطمینان کالیبره شده در صورتی که در دسترس باشند.
- پنل منابع: ارائه استنادها برای پاسخهای مبتنی بر بازیابی جهت اطمینان از مبنیسازی (Grounding).
- پیشنهاد بهجای تغییر: در اقدامات با تأثیر بالا، پیشفرض باید «پیشنهاد دادن» باشد، نه اعمال تغییرات بهصورت خاموش.
- حلقههای اصلاح: ایجاد روشهای ساده برای کاربران جهت اصلاح خطاها، که بهطور همزمان باعث بهبود سیستم میشود.
در محصولات عاملمحور (Agentic) — مانند آنچه در ModusMax AI توسعه مییابد و در آن عاملها در محیطهای دسکتاپ و ابری عمل میکنند — ریسکها بسیار بالاتر است. این تحول به سمت سیستمهای عاملمحور باعث شده تا این پرسش مطرح شود که آیا عاملهای هوش مصنوعی جایگزین مهارتهای سخت پرامپتنویسی میشوند یا خیر. وقتی عاملها با فایلها، مرورگرها و ابزارهای خارجی تعامل دارند، مدیریت مجوزها و شفافیت عملیات تبدیل به هسته اصلی محصول میشود، نه صرفاً یک پرداخت نهایی برای زیبایی.
حقوق تصمیمگیری و خط لولههای داده
فراتر از رابط کاربری، شوارتز تأکید میکند که طراحی باید پیش از انتخاب مدل، به «حقوق تصمیمگیری» بپردازد. تیمها باید تعیین کنند چه کسی اجازه تأیید یک اقدام خودکار را دارد، کدام اقدامات بازگشتپذیر و کدامیک بازگشتناپذیر هستند و کدام دستههای داده در محدوده مجاز قرار دارند. نکته حیاتی این است که طراحان باید برای لحظاتی که مدل در ساعت ۲ بامداد دچار خطا میشود، برنامهریزی کنند. اینها تصمیمات طراحی هستند که باید در جریانهای کاری (Flows) و حالتهای خالی (Empty States) گنجانده شوند، نه فقط در یک فایل PDF سیاستگذاری.
علاوه بر این، خط لولههای داده (Data Pipelines) به عنوان بخشی از تجربه کاربر در نظر گرفته میشوند. کاربران مشکلاتی نظیر تغییر در ساختار دادهها (Schema Drift)، عدم بهروز بودن یا کنترل دسترسی ضعیف را به صورت «هوش مصنوعی امروز احمق است» درک میکنند. شوارتز بر خط لولههای داده و جریانهای کاری عاملمحور تمرکز میکند زیرا وقتی لولهکشی دادهها به عنوان یک اولویت ثانویه دیده شود، کیفیت محصول فرو میپاشد.
نقشه مهندسی برای استقرار
او بهجای تحولات گسترده هوش مصنوعی، استراتژی «برشهای نازک با ارزیابی عمیق» را توصیه میکند. یک برش عمودی نازک — یعنی یک جریان کاری با معیار موفقیت روشن و یک سیستم ارزیابی مستحکم — بسیار بهتر از رویای ساخت یک پلتفرم جامع است. ارزیابی باید ترکیبی از تستهای آفلاین (مجموعههای طلایی، تستهای رگرسیون، بررسیهای ایمنی)، معیارهای آنلاین (موفقیت در وظیفه، فاصله ویرایشی، تأخیر، نرخ رها کردن) و مصاحبههای کیفی اعتماد با اپراتورهای واقعی باشد.
ترتیب پیشنهادی او برای عرضه ویژگیهای قابلاتکا به این صورت است:
۱. تبیین وظیفه: تعریف کاربر اصلی، تکرار استفاده و هزینه یک خطای احتمالی.
۲. نقشهبرداری جریانها: شناسایی نقاطی که در حال حاضر قضاوت انسانی در فرآیند قرار دارد.
۳. نمونهسازی تعاملات: استفاده از مدلهای کلیکخور یا تستهای «جادوگر از اوز» (Wizard-of-Oz) پیش از انتخاب مدل.
۴. انتخاب رویکرد ML: تصمیم بین یادگیری ماشین کلاسیک، تولید بازیابیافزا (RAG)، پرامپتنویسی LLM، تنظیم دقیق (Fine-tuning) یا ابزارها/عاملها بر اساس نوع وظیفه.
۵. ابزارگذاری و پایلوت: ایجاد لاگهای محترم به حریم خصوصی و تست با گروه کوچکی از کاربران «پیشرو» با دادههای واقعی و ریسکهای واقعی.
۶. مقاومسازی: تعیین بودجه تأخیر (Latency)، جایگزینهای زمان خطا (Fallbacks)، کنترل دسترسی و دستورالعملهای عملیاتی (Runbooks).
۷. روایت تغییر: استفاده از آموزش و متون راهنما در رابط کاربری برای ایجاد انتظارات دقیق.
زمینههای کاربردی در سازمانها
برخی انواع مسائل با این رویکرد سختگیرانه طراحی ML بهتر پاسخ داده میشوند. اینها شامل کمکخلبانهای (Copilots) حوزه دانش است که از مجموعههای تأییدشده با ردپای حسابرسی (Audit Trail) بازیابی میکنند؛ دستیاران عملیاتی که پیشنویسها را آماده یا مسیربندی میکنند و در موارد خاص تأیید انسانی میگیرند؛ و ابزارهای تجربه مشتری که لحن برند و الزامات رگولاتوری را حفظ میکنند. پلتفرمهای داخلی عاملمحور که کارهای تکراری دسکتاپ را بدون نیاز به یادگیری دستورات ترمینال کاهش میدهند نیز در این مدل جای میگیرند.
تلههای رایج در مسیر اجرا
این راهنما دو تله اصلی را برای تیمهای سازمانی شناسایی کرده است. «تئاتر مدلمحور» زمانی رخ میدهد که یک مدل تجاری پیش از درک جریان کاری انتخاب شود، که منجر به پذیرش پایین محصول میگردد. در مقابل، «تخیل طراحیمحور» زمانی اتفاق میافتد که رابطهای زیبا قابلیتهایی را وعده میدهند که دادههای زیرساختی توان پشتیبانی از آنها را ندارند و اعتماد کاربر در اولین استفاده فرو میپاشد.
شوارتز اشاره میکند که در بافتار آفریقای جنوبی، این چالشها با بلوغ دیجیتال متفاوت و نیاز به عادتهای «موبایل-اول» و «واتساپ-شکل» پیچیدهتر میشود. طراحی برای این محدودیتها — در کنار توجیهات شدید بازگشت سرمایه (ROI) که در آن ML باید به عنوان بهبود عملیاتی دیده شود نه تئاتر پژوهشی — یک مزیت رقابتی ایجاد میکند. او تشویق میکند که ضمن حفظ مالکیت بر قضاوت محصول، در موج جهانی هوش مصنوعی ابری و مدلهای محلی مشارکت کنیم.
این تغییر در رویکرد، مهندس طراحی AI را به یک نقش «مترجم» تبدیل میکند. وظیفه آنها ادعای دانایی مطلق درباره مدل نیست، بلکه تضمین میکند محصول درباره عدم قطعیت صادق باشد و در عین حال کاربر را به هدفش برساند. برای کسانی که این جریانهای کاری را پیاده میکنند، گام بعدی ممیزی نمونههای اولیه فعلی در برابر همراستاسازی سه سیستم یادگیری، تعامل و عملیات است.
گام بعدی شما
- نمونههای اولیه فعلی خود را بر اساس همراستاسازی سه سیستم (یادگیری، تعامل و عملیات) ممیزی کنید.
- برای هر ویژگی AI، یک «هزینه خطا» تعریف کنید تا متوجه شوید کجا نیاز به تأیید انسانی است و کجا خیر.
- به جای ارتقای کلی مدل، یک «برش نازک» از جریان کاری را انتخاب کرده و ارزیابیهای عمیق روی آن اجرا کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو