تصور کنید برای رصد هر حرکت یک عامل هوش مصنوعی، مجبور باشید در تکتک توابع برنامه خود کدهای ردیابی جاسازی کنید. AgentSight این بار اضافی را بهطور کامل حذف میکند تا توسعهدهندگان بتوانند بدون دست زدن به یک خط از کد منبع، رفتار و هزینههای عاملها را در لحظه تحلیل کنند. این ابزار با بهرهگیری از eBPF (Extended Berkeley Packet Filter)، فراخوانیهای API مدلهای زبانی و رفتار فرآیندها را مستقیماً از هسته لینوکس شکار میکند و تضمین میکند که کد منبع عامل دستنخورده باقی بماند.
بیشتر ابزارهای نظارتی در لایه اپلیکیشن عمل میکنند و به SDKها یا پوششهایی نیاز دارند که میتوانند سرعت اجرا را کم کنند یا باعث بروز باگ شوند. AgentSight این رویکرد را به سطح سیستمعامل منتقل کرده است. این تغییر رویکرد زمانی حیاتی میشود که عاملها از چتهای ساده به گردشکارهای چندمرحلهای و پیچیده تبدیل میشوند؛ جایی که یک شکست کوچک در یک فرآیند پنهان میتواند کل جلسه را نابود کند. این تحول در معماری، در راستای جایگزینی پرامپتهای ساده با جریانهای کاری عاملمحور در پشتههای فناوری سازمانی است تا پایداری سیستمهای هوشمند افزایش یابد.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت و پایداری مدلهای عاملمحور اشاره کردیم، نبودِ دید کلی نسبت به زنجیره تصمیمات مدل، بزرگترین مانع برای استقرار آنها در محیطهای عملیاتی است.
به نقل از مستندات Alibaba که در ۲۱ اوت ۲۰۲۶ منتشر شد، AgentSight مجموعهای جامع از پروبهای سطح هسته را ارائه میدهد. این ابزار بهطور خاص برای هسته لینوکس نسخه ۵.۸ یا بالاتر با پشتیبانی BTF طراحی شده و برای اجرا به دسترسی root یا امتیازات CAP_BPF نیاز دارد. برای کاربران macOS، این ابزار تنها به اسکن فایلهای جلسه و مشاهده داشبورد محدود میشود، زیرا eBPF یک فناوری مختص لینوکس است.
الزامات سیستمی و پشتیبانی از سیستمعامل
قابلیتهای AgentSight بسته به سیستمعامل بهدلیل تکیه بر قلابهای سطح هسته تفاوت چشمگیری دارد:
- لینوکس: نظارت کامل روی تمام لایهها (Full-stack observability). نیاز به معماری x86_64 در حالت سیستمی دارد. این سیستم از دستورات
traceوserveاز طریق پروبهای eBPF پشتیبانی میکند. - macOS: عملکرد محدود. کاربران تنها میتوانند از
trace(یک جمعآوریکننده مسیر که فایلهای جلسه JSONL محلی را اسکن میکند) وserve(مشاهدهگر داشبورد) استفاده کنند. تمام دستوراتی که وابسته به eBPF هستند در این سیستمعامل غیرقابل دسترساند.
قابلیتهای کلیدی نظارت
AgentSight بر سه ستون اصلی برای ارزیابی سلامت عاملها تمرکز دارد:
- حسابداری توکن: تحلیل چندبعدی مصرف توکن (Token) — شبیه به تکههای کوچکی از متن که مدل تکهتکه میخورد — بهتفکیک هر عامل، وظیفه و مدل مورد استفاده.
- ممیزی رفتار: ردیابی کامل فراخوانیهای مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — و اجرای فرآیندها برای درک دقیق نحوه رسیدن عامل به یک نتیجه خاص.
- کشف خودکار: شناسایی خودکار فرآیندهای عاملهای هوش مصنوعی در حال اجرا روی سیستم بدون نیاز به ثبتنام دستی.
سازوکارهای فنی عمیق
برای دستیابی به نظارت بدون نیاز به تغییر کد (Zero-instrumentation)، AgentSight از چندین مکانیزم سطح هسته استفاده میکند:
- ضبط ترافیک: دستور
agentsight traceترافیک SSL/TLS، رویدادهای فرآیند و عملیات فایل را در سطح هسته شکار میکند. - خط لوله داده: از یک کانال رویداد محدود با ظرفیت ۱۰,۰۰۰ رویداد و یک Ring Buffer در eBPF با اندازه ۳۲ مگابایت استفاده میکند (که این اندازه حتماً باید توانی از عدد ۲ باشد).
- نگاشت جلسه: ابزار
responseIdرا بهsessionIdمتصل میکند تا تداوم فراخوانیهای نامتقارن LLM حفظ شود. - محدودیتهای بافر: محدودیت ۸ مگابایتی برای بدنه اتصال HTTP و اجازه انتظار برای ۱,۰۰۰ رویداد تا یافتن
session_idرا اعمال میکند.
شناسایی خطاها و وقفهها
یکی از کاربردیترین ویژگیهای این ابزار، شناسایی خودکار وقفههای جلسه است. AgentSight این رویدادها را بر اساس شدت دستهبندی میکند تا به توسعهدهندگان در اولویتبندی اصلاحات کمک کند:
- بحرانی (Critical): کرش کردن فرآیند عامل در میانه جلسه (
agent_crash). - بالا (High): خطاهای LLM در مواردی که وضعیت HTTP برابر یا بیشتر از ۴۰۰ است یا بدنه SSE حاوی خطا است (
llm_error)؛ جریانهای SSE که بدون دلیل توقف (finish_reason=stop) پایان مییابند (sse_truncated)؛ یا سرریز شدن پنجره متنی (Context Window) — میزان متنی که مدل همزمان در ذهن نگه میدارد، شبیه به میز کاری که جا برای چند ورق دارد (context_overflow). - متوسط (Medium): رسیدن به حد نصاب توکنها در حالتی که
finish_reason=lengthباشد و خروجی نزدیک به حداکثر طول مجاز باشد (token_limit).
استقرار و مدیریت
نصب این ابزار از طریق CLI شرکت ANOLISA با دستور sudo anolisa install agentsight انجام میشود. برای کاربران Alinux، امکان نصب از طریق پیکربندی مخزن YUM با دستور sudo yum install agentsight فراهم است. توسعهدهندگان میتوانند با دستور make build-all داشبورد فرانتاند، باینری اصلی و agentsight-enforcer را بهترتیب کامپایل کنند. توجه داشته باشید که اجرای تنها دستور make build باعث نادیده گرفتن enforcer میشود و در نتیجه قابلیتهای اجرایی در زمان serve در دسترس نخواهند بود.
این سیستم بهعنوان یک سرویس systemd (agentsight.service) اجرا شده و داشبورد وب را روی پورت ۷۳۹۶ فعال میکند. سرویس با دسترسی root و یک umask خصوصی اجرا شده و دادهها را در مسیر /var/log/sysak/.agentsight ذخیره میکند. برای جلوگیری از دسترسیهای غیرمجاز، ابزار یک توکن ۶۴ کاراکتری (hex) برای دسترسی از راه دور تولید میکند، در حالی که دسترسی از localhost بدون نیاز به احراز هویت است.
برای عیبیابی عمیق، حالت Foreground در دسترس است. توسعهدهندگان میتوانند با متوقف کردن واحد systemd، دستور sudo agentsight trace را در یک ترمینال برای شکار رویدادهای زنده هسته و sudo agentsight serve را در ترمینال دیگر برای بصریسازی دادهها در لحظه اجرا کنند. همچنین کاربران میتوانند دستور sudo agentsight dashboard --no-open را اجرا کنند تا URL دسترسی و توکن متعلق به سرویس چاپ شود.
پیکربندی و API
مدیریت تنظیمات از طریق فایل /etc/agentsight/config.json صورت میگیرد. کاربران میتوانند احراز هویت را برای شبکههای داخلی مورد اعتماد با تنظیم server.auth.enabled روی false و بارگذاری مجدد سرویس غیرفعال کنند. پرچمهای کلیدی ویژگیها عبارتند از:
features.token_stats: حسابداری توکن (پیشفرض: فعال).features.sqlite_storage.enabled: ذخیرهسازی محلی (پیشفرض: فعال).features.interruption_detection.enabled: شناسایی خطا/کرش (پیشفرض: فعال).features.audit: ممیزی فراخوانیهای LLM (پیشفرض: فعال).
برای اتوماسیون، AgentSight یک API ارائه میدهد. نقطه اتصال GET /api/docs فهرست کامل مسیرها، متدها و توضیحات را بازمیگرداند که به اسکریپتهای خارجی اجازه میدهد نقاط اتصال موجود را کشف کنند.
ابزارهای پرسوجوی CLI
علاوه بر داشبورد، دستورات قدرتمندی برای تحلیل سریع در CLI وجود دارد:
agentsight summary: نمای کلی یکپارچه از جلسات، مصرف توکن و رویدادهای وقفه. این دستور بهطور پیشفرض ۲۴ ساعت اخیر را بررسی میکند اما از پرچمهایی مانند--last 168برای بازه ۷ روزه و--jsonبرای خروجی ساختاریافته پشتیبانی میکند.agentsight token: پرسوجوی مصرف امروز یا ارائه مقایسههای هفتگی با استفاده از--period week --compare.agentsight audit: ممیزی رویدادها با فیلترهای PID (--pid) و نوع (--type llm).agentsight discover: اسکن عاملهای در حال اجرا یا لیست انواع شناختهشده از طریق--list-known.agentsight interruption: مدیریت خطاهای جلسه. دستورات شاملlist،stats،countوresolve <ID>برای علامتگذاری رویدادها بهعنوان اصلاحشده است.
یکپارچگی و مدیریت دادهها
AgentSight در خلأ عمل نمیکند. این ابزار با Tokenless یکپارچه شده تا دادههای مربوط به صرفهجویی در توکنها را بهطور خودکار در داشبورد نمایش دهد. این شامل صرفهجوییهای تجمعی است که اغلب از تفاوتهای تکفراخوانی بیشتر است، زیرا عاملها پیامهای تاریخی را در متن خود در طول چندین نوبت (turn) گنجاندهاند.
همچنین یک مهارت گفتگویی داخلی برای Copilot Shell دارد که اجازه میدهد کاربران با زبان طبیعی بپرسند: «امروز چقدر توکن مصرف کردم؟» یا «سوابق فراخوانیهای LLM امروز را به من نشان بده.»
برای جلوگیری از اشغال فضای دیسک، مکانیسم پاکسازی خودکار پایگاهداده SQLite با سقف ۲۰۰ مگابایت تعبیه شده است که از طریق متغیر محیطی AGENTSIGHT_GENAI_DB_MAX_SIZE_MB قابل تغییر است. تاریخچه را میتوان بهصورت دستی با حذف پوشه /var/log/sysak/.agentsight و راهاندازی مجدد سرویس پاک کرد.
این چرخش به سمت نظارت بدون تغییر کد، این فرض قدیمی را که مانیتورینگ باید بخشی از منطق برنامه باشد، تغییر میدهد. علیبابا با انتقال ناظر به هسته سیستمعامل، با عاملهای هوش مصنوعی نه بهعنوان اسکریپتهای نرمافزاری، بلکه بهعنوان فرآیندهای سیستمی برخورد میکند که نیاز به ممیزی خارجی و سختگیرانه دارند.
برای توسعهدهنده، این یعنی «مالیات نظارت» — یعنی زمانی که صرف نوشتن لاگها و یکپارچهسازی تلهمتری میشد — تقریباً به صفر میرسد. همچنین این ابزار یک شبکه ایمنی برای عاملهای شخص ثالث فراهم میکند که کد منبع آنها در دسترس نیست یا تغییر دادنشان بیش از حد پیچیده است.
گام بعدی شما
- اگر در محیط لینوکس عامل مستقر کردهاید، ابتدا نسخه هسته خود را بررسی کنید تا مطمئن شوید نسخه ۵.۸ یا بالاتر است تا از پروبهای eBPF پشتیبانی کند.
- برای کاهش هزینههای استنتاج، یکپارچگی AgentSight با Tokenless را برای شناسایی نقاط پرتهدر در مصرف توکنها فعال کنید.
- در محیطهای تست، حالت Foreground را برای ردیابی لحظهای زنجیره تصمیمات عامل فعال کنید تا نقاط شکست در منطق استدلال را بیابید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو