دوران شگفتزدگی از هوش مصنوعی به پایان رسید؛ حالا نوبت به حسابکشی رسیده است. اگر تصور میکنید هوشمندی مدلها برای پذیرش سازمانی کافی است، سخت در اشتباهید.
به نقل از تحلیلهای ارائه شده در کنفرانس HumanX در ۲۷ آوریل ۲۰۲۶، صنعت اکنون وارد مرحلهی «کشف واقعیت» شده است. در این مرحله، جذابیت رفتارهای نوظهور جای خود را به واقعیت سرد و سختِ «قابلیت اطمینان سازمانی» داده است.
سازمانها در حال گذار از چتباتهای ساده به پارادایمهای عاملمحور (Agentic) هستند؛ سیستمهای خودکاری که مسائل را تجزیه کرده و ابزارها را اجرا میکنند. اما این چرخش یک شکاف بحرانی را آشکار کرد: در حالی که هوشمندی مدلها جهش کرده، قابلیت اطمینان آنها ثابت مانده است. دن کلاین (Dan Klein)، مدیر فناوری Scaled Cognition، هشدار میدهد که در بخشهایی مانند بهداشت و درمان یا حقوق، سیستمهایی که «سیاستهای خودشان را ابداع میکنند» یا دربارهی موجودی حسابها دروغ میگویند، دیگر قابل پذیرش نیستند.
برای پر کردن این شکاف اعتماد، تمرکز بر سه ستون اصلی قرار گرفته است:
- حقیقت: عبور از تولید بازیابیافزا (Retrieval-Augmented Generation - RAG) به سمت حافظهی عاملی و دسترسی به دادهها در زمان استنتاج (Inference).
- سطح دسترسی: پیادهسازی مدلهای «اعتماد صفر» و کنترلهای احراز هویت موقت برای اقدامات عاملها.
- قابلیت حسابرسی: استفاده از مهندسی قابلیت اطمینان سایت (SRE) برای هوش مصنوعی و ابزارهای مشاهدهپذیری جهت ایجاد ردپای فعالیتهای قابل تایید.
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، مدیریت دسترسی در سیستمهای خودکار بسیار پیچیدهتر از مدلهای ایستا است. این گذار اکنون منجر به یک بحران مالی شده است. هزینهی توکنها به «صورتحساب جدید ابری» تبدیل شده که دلیل آن پنجرههای بافتار (Context Window) حجیم و «گروههای عاملی» (Agent Swarms) است.
میراندا نش (Miranda Nash) از Oracle AI اشاره میکند که این گروهها توکنها را با سرعتی هشداردهنده مصرف میکنند، حتی با وجود اینکه قیمت هر توکن در کمتر از ۳ سال حدود ۲۰۰ برابر کاهش یافته است.
در این میان، مدلهای درآمدزایی همچنان یک معمای حلنشده است. طبق گزارشهای منتشر شده، غولهایی مثل OpenAI و Anthropic انتظار ندارند به ترتیب تا سال ۲۰۳۰ و ۲۰۲۸ به سوددهی برسند. علاوه بر این، انتشار مدل Mythos توسط Anthropic نگرانیهای جدیدی را دربارهی امنیت نرمافزارهای زیرساختی اینترنت ایجاد کرده است.
این تنها آغاز ماجراست؛ اثر موجگونهی این فشار برای قابلیت اطمینان بر نسل بعدی تراشههای استنتاج و تقاضای برق مراکز داده را در گزارش بعدی بررسی خواهیم کرد.
گام بعدی شما
- ابزارهای مشاهدهپذیری (Observability) را در جریانهای کاری عاملمحور خود ادغام کنید تا ردپای تصمیمات AI قابل ردیابی باشد.
- استراتژیهای مدیریت هزینه توکن را برای «گروههای عاملی» بازبینی کنید تا از شوک مالی در مقیاس صنعتی جلوگیری شود.
- مدلهای احراز هویت موقت (Ephemeral Auth) را برای هر ابزاری که عاملهای شما به آن دسترسی دارند، پیادهسازی کنید.
گفتگو