یک عامل هوش مصنوعی که بدون ردپای حسابرسی فعالیت میکند، برای هر سازمان بزرگی یک ریسک حقوقی و امنیتی است. Tracepath که در ۱۲ ژوئیه ۲۰۲۶ به عنوان یک میانافزار (Middleware) متنباز معرفی شد، این مشکل با رهگیری هر فراخوانی ابزار و امضای رمزنگاریشدهی آن حل میکند تا مسئولیتپذیری کامل ایجاد شود. این سامانه یک پشتهی کامل حسابرسی (Full Audit Stack) است و به هر عاملی — چه با LangChain، CrewAI، AutoGen یا یک چارچوب سفارشی ساخته شده باشد — قابلیت ردیابی، حسابرسی و انطباق با قوانین جهانی را میدهد.
اکثر سامانههای خودمختار فعلی مانند «جعبههای سیاه» عمل میکنند؛ جایی که توسعهدهندگان بهسختی میتوانند ردیابی کنند که دقیقاً چرا یک عامل ابزار خاصی را فراخوانی کرده یا چرا مقدار مشخصی از بودجه را هزینه کرده است. این نبودِ دید، یک شکاف عظیم در حاکمیت شرکتی و انطباق قانونی ایجاد میکند. این چالشها دقیقاً همان نکاتی هستند که در بحث دربارهی ریسکهای خودمختاری کامل برای سازمانهای متوسط به آنها پرداخته بودیم؛ جایی که کنترلشده بودن مدلهای خودمختار برای کاهش ریسک حیاتی است. همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، با تبدیل شدن چتباتهای ساده به «کارمندان خودمختار»، نیاز به یک لایهی امنیتی با شعار «به هیچچیز اعتماد نکن، همه چیز را تایید کن» حیاتی شده است. این پروژه از تلاسی امنیت برنامههای وب (با تخصص در OWASP Top 10 و حملاتی نظیر XSS، CSRF و DoS) و عصر جدید عاملهای استدلالی (Reasoning Agents) متولد شده است.
طبق مستندات این پروژه در dev.to، طراحی Tracepath بهطور ویژه برای پاسخ به الزامات ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام شده است. این مقررات سختگیرانه حکم میکند که سامانههای AI با ریسک بالا باید رویدادها را بهطور خودکار در طول عملیات ثبت کنند (Logs)، نظارت انسانی را از طریق مانیتورینگ و مداخله ممکن سازند و ردیابی تصمیمات سیستم AI را تضمین کنند. Tracepath با پیادهسازی این سه رکن، حاکمیت AI را از یک الزام تئوری به یک واقعیت فنی تبدیل میکند.
معماری فنی
Tracepath به عنوان یک درگاه حسابرسی (Audit Gateway) عمل میکند که بین چارچوب عامل و ابزارهای آن قرار میگیرد. این ابزار از چارچوبهای اصلی از جمله LangChain، CrewAI، AutoGen و LangGraph پشتیبانی میکند. استقرار این پشته بسیار سریع است و پس از تولید یک کلید امضا (AUDIT_SIGNING_KEY) با استفاده از OpenSSL، تنها با یک دستور docker compose up -d فعال میشود.
- درگاه (Gateway): این بخش با زبان Rust (با استفاده از actix-web) نوشته شده است. این درگاه سیاستها را با استفاده از OPA WASM در کمتر از ۱ میلیثانیه ارزیابی کرده و رویدادها را با الگوریتم Ed25519 امضا میکند تا انکارناپذیری رمزنگاریشده (Cryptographic Non-repudiation) تضمین شود. این مکانیسم تضمین میکند که هر اقدام را میتوان به طور اثباتی به یک عامل خاص در یک زمان مشخص نسبت داد.
- ذخیرهساز تغییرناپذیر: برای لاگهای قابل پرسوجو از PostgreSQL و برای ایجاد ذخیرهسازی WORM (یکبار نوشتن، چندینبار خواندن) از MinIO با قابلیت S3 Object Lock استفاده میکند. این ساختار تضمین میکند که لاگها به مدت ۳۶۵ روز غیرقابل تغییر باشند.
- ناقل رویداد (Event Bus): تمام رویدادها از طریق NATS JetStream به یک تشخیصدهندهی حوادث که با Python (و با بهرهگیری از aiohttp) نوشته شده، ارسال میشوند.
- رابط کاربری: یک داشبورد انطباق (Compliance Dashboard) که با React، TypeScript، Tailwind و shadcn/ui ساخته شده و نمای مرکزی از رفتار عاملها را ارائه میدهد.
جزئیات داشبورد و قابلیت مشاهده
داشبورد Tracepath برای نظارت جامع به پنج تب یا بخش اصلی تقسیم شده است:
- حسابرسی (Audit): یک ردپای رویداد که تمام فراخوانیهای ابزار، امضای مربوط به هر فراخوانی و بررسی سیاستهای مرتبط را نمایش میدهد.
- حوادث (Incidents): تشخیص آنی ناهنجاریها، مانند جهش در تعداد درخواستهای ردشده (Denial Spikes) یا تخطی از محدودیتهای نرخ (Rate Limit Breaches). این قابلیت مشاهده، زیربنای لازم برای سیستمهای پیشرفتهتری است که مسیر خودکار پاسخ به حوادث را از تحلیل لاگ تا گزارش نهایی طی میکنند.
- سیاستها (Policies): قوانین OPA که بر اساس Git نسخهبندی شدهاند و دارای نمایشگر diff بصری و قابلیت بازگشت سریع (One-click Rollback) هستند.
- گزارشها (Reports): تولید یککلیکی گزارشهای انطباق HTML برای استانداردهای FINRA و EU AI Act.
- جمینای (Gemini): یک نمای اختصاصی برای طبقهبندی معنایی حوادث با استفاده از هوش مصنوعی گوگل.
حاکمیت آنی و هوشمندی
Tracepath فراتر از ثبت ساده، یک موتور سیاستگذاری پویا بر اساس قوانین Rego را پیادهسازی کرده است. این سیاستها به مدیران اجازه میدهند لیستهای مجاز (Allowlists) سختگیرانه، سقفهای بودجه و محدودیت نرخ را تعیین کنند. اگر عاملی تلاش کند ابزار ممنوعهای را اجرا کند یا از بودجهی خود فراتر رود، درگاه درخواست را متوقف کرده و تصمیمی مبنی بر رد (Denial) بازمیگرداند.
برای کاهش نویز هشدارها در سیستمهای سنتی، این سامانه از Google Gemini 2.5 Flash به عنوان یک طبقهبندیکننده معنایی استفاده میکند. جمینای بستر یک حادثه تحریکشده را تحلیل میکند تا شدت آن را اصلاح کند. برای مثال، اگر سیستم ۶ مورد ردِ image_generate را در یک جلسه شناسایی کند، یک سیستم استاندارد ممکن است آن را «بحرانی» (CRITICAL) علامت بزند. اما جمینای ممکن است آن را به «هشدار» (WARNING) کاهش دهد، زیرا استدلال میکند که این ردها نشاندهنده یک تنظیم اشتباه (Misconfiguration) است نه یک حمله مخرب. به طور مشابه، اگر بودجه ۲ برابر شود، جمینای ممکن است سطح آن را به «اطلاعات» (INFO) کاهش دهد، اگر تشخیص دهد ابزارهای استفاده شده با یک گردش کار پژوهشی مشروع مطابقت دارند. این طبقهبندیها به صورت پایدار کش (Cache) میشوند تا استدلالها حتی پس از ریاستارت شدن کانتینرها قابل مشاهده باقی بمانند.
انطباق، بازیابی و اعتبارسنجی
این سیستم یک داشبورد تخصصی برای حسابرسان و افسران انطباق فراهم میکند. این بخش شامل گزارشدهی یککلیکی برای FINRA و EU AI Act است که یکپارچگی دادهها را از طریق امضاهای Ed25519، نگهداری سوابق در حافظه WORM و کنترلهای دسترسی سختگیرانه به API تایید میکند.
یکی از پیشرفتهترین قابلیتها، موتور «بازپخش سیاست» (Policy Replay) است. از آنجایی که تغییرات سیاستها از طریق Git ردیابی میشوند، توسعهدهندگان میتوانند رویدادهای تاریخی عاملها را در برابر نسخه جدیدی از یک سیاست بازپخش کنند تا به این سوال حیاتی پاسخ دهند: «اگر این سیاست در آن زمان فعال بود، چه اتفاقی میافتاد؟»
این قابلیت، چرخه توسعه AI را از روش «آزمون و خطا» به یک دیسیپلین مهندسی قابل تایید تبدیل میکند. در واقع، رفتار عامل AI به مجموعهای از تراکنشهای امضا شده تبدیل میشود که میتوان آنها را حسابرس کرد، به عقب برگرداند و به رگولاتورها توجیه کرد.
برای توسعهدهندگان، این یعنی دیگر نیازی نیست بین «خودمختاری عامل» و «امنیت سازمانی» یکی را انتخاب کنند. با پیادهسازی این میانافزار، میتوانید قدرت بیشتری به عاملها بدهید در حالی که مرزی سخت برای آنچه مجاز به اجرای آنها هستند، تعریف کردهاید. نقشه راه فعلی شامل گسترش این ابزار به یک بسته آمادگی برای گواهینامه SOC2، افزودن یک SDK برای TypeScript با دکوراتور @audit و توسعه یک رابط کاربری سفارشی برای نوشتن قوانین Rego مستقیماً در داشبورد است.
کاربران علاقهمند میتوانند در حال حاضر مخزن گیتهاب را کلون کرده و پشته کامل را اجرا کنند. توسعهدهندگان میتوانند با ارسال یک درخواست POST ساده به نقطه انتهایی /audit/step همراه با دادههای جلسه و ابزار، ثبت رویدادهای امضا شده و بررسیشده توسط سیاست در لاگ WORM را فوراً آغاز کنند.
گام بعدی شما
- اگر از LangChain یا CrewAI برای محصولات تجاری استفاده میکنید، مخزن گیتهاب Tracepath را برای پیادهسازی لایه حسابرسی بررسی کنید.
- ساختار قوانین Rego را مطالعه کنید تا بتوانید محدودیتهای بودجه و دسترسی را به صورت کدنویسیشده (Policy-as-Code) مدیریت کنید.
- با ارسال درخواست POST به نقطه انتهایی
/audit/stepارزیابی کنید که چگونه رویدادهای امضا شده در حافظه WORM ذخیره میشوند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تنگنای پهنای باند حافظه در استنتاج مدلها مراجعه کنید.
گفتگو