تصور کنید شرکتی را اداره کنید که در آن شما تنها انسان هستید و بقیه کارکنان، پنج هوش مصنوعی تخصصیاند که بدون دستور مستقیم شما، ساعتها روی پروژهها کار میکنند. این دیگر یک دموی مفهومی نیست؛ در شرکت Nautilus، یک مؤسس انفرادی همین حالا یک شرکت تولیدی را اداره میکند که در آن تنها کارمند انسانی، پنج عامل هوش مصنوعی تخصصی را مدیریت میکند. این سازمان پیش از این یک خط لولهی دادهی پنجمرحلهای را با موفقیت اجرا کرده است که مراحل پذیرش تجهیزات، تستهای روز صفر (Day-0)، جمعآوری دادهها، کنترل کیفیت و تبدیل فرمت را پوشش میدهد. علاوه بر این، سیستم یک سامانه آزمون داخلی برای نمرهدهی به خروجیهای هوش مصنوعی مدیریت میکند و تحویل دادهها را همراه با یک «گواهینامه قابل تأیید» (Verifiable Certificate) ارسال میکند.
بسیاری از آزمایشهای عاملمحور (Agentic) به دلیل تکیه بر «تئاتر زنده بودن» (Liveness Theater) شکست میخورند؛ یعنی تایمرهایی که ادعا میکنند پردازش در حال انجام است، در حالی که سیستم در واقع در حالت بیکاری است. این چالشها در واقع تکرار همان موانعی است که در تحلیل ما دربارهی پیچیدگی عاملهای متصل و شکست تکعاملها در سازمان به آنها پرداختیم. مؤسس Nautilus به یاد دارد که پیشتر یک موتور زنجیرهای داشت که به نظر میرسید هر ۵ دقیقه پیشرفت میکند، اما به دلیل یک باگ خاموش، در واقع حتی یک تسک را هم جابهجا نکرده بود. برای حل این مشکل، او یک صندوق پستی سازمانی اختصاصی ساخت که به عنوان یک گذرگاه پیام (Message Bus) و دفتر ثبت وقایع (Ledger) عمل میکند. در این ساختار، هر تعامل بین پنج عامل — شامل پلتفرم، مغز اصلی، داور، مجری کسبوکار و دروازه حاکمیت — به طور کامل ثبت میشود. این عاملها یک ذهن مشترک ندارند، بلکه از جلسات (Sessions)، مخازن (Repositories) و حافظههای مجزا استفاده میکنند. طبق گزارش منتشر شده در ۲۲ سپتامبر ۲۰۲۶، این سیستم در سه ماه گذشته بیش از ۵۰۰ نامه رد و بدل کرده است تا هر تصمیم سازمانی کاملاً از طریق یک ردپای حسابرسی (Audit Trail) قابل بازسازی باشد. این رویکرد ثبت دقیق وقایع، با استانداردهای جدید IETF برای ایجاد دفاتر ثبت غیرقابلدستکاری در عاملهای هوش مصنوعی همراستا است تا شفافیت عملیاتی تضمین شود.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، اعتماد به خروجی مدل بدون لایهی تأیید، ریسک بزرگی است. Nautilus برای جلوگیری از توهم (Hallucination) — وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد — سه قانون سختگیرانه وضع کرده است. اول، اولویت با «قابلیت محاسبه مجدد» (Recomputability) است نه «گزارش شخصی» (Self-reporting)؛ یعنی هیچ ادعایی از سوی یک عامل مبنی بر اینکه تسکی «انجام شد» یا «تستها پاس شدند» پذیرفته نمیشود مگر اینکه شخص ثالثی procedure را دوباره اجرا و نتیجه را تأیید کند. هر دسته از دادهها همراه با یک «بسته شواهد» (Evidence Pack) ارسال میشود و هر ادعای غیرقابل تأییدی به صورت عمومی به عنوان مورد مشکوک علامتگذاری میگردد. در اولین آزمون داخلی، این روش باعث شد متوجه شوند یک عامل شرکتکننده در آزمون ادعا کرده که یک خطا را برطرف کرده است، در حالی که داور در لحظه و به صورت زنده ثابت کرد که خطا همچنان پابرجاست.
دوم، معیارهای پذیرش (Acceptance Criteria) مانند قانون تلقی میشوند. این معیارها پیش از شروع کار «منجمد» میشوند و هرگونه بازنگری در آنها نیازمند یک فرآیند قانونگذاری رسمی است. این فرآیند شامل رد کردن کار توسط یک عامل، بررسی مجدد توسط یک نهاد مستقل برای یافتن اینکه آیا معیار اشتباهی اندازهگیری شده است یا خیر، و در نهایت صدور حکم توسط مؤسس انسانی است. برای مثال، هفته گذشته یک داور تصمیم اشتباهی گرفت که تنها پس از ارائه شواهد در سطح بایت (Byte-level evidence) توسط عامل اجراکننده لغو شد. این بازگشت تصمیم که در ۶ نامه حفظ شده ثبت شده است، اکنون به یکی از بخشهای اصلی ارائه (Pitch) این شرکت تبدیل شده است.
سوم، مؤسس انسانی تنها سه قدرت خاص را برای خود حفظ کرده است: تعیین اهداف، تعریف معیارها و اتخاذ تصمیمات حیاتی (مرگ و زندگی). تمام هماهنگیهای دیگر، از جمله پیگیری توافقنامههای سطح خدمات (SLA) و پذیرش تسکها، به عاملها سپرده شده است. این رویکرد اجازه میدهد سیستمها برای چندین روز بدون نظارت اجرا شوند و نقش انسان از یک ناظر دائمی به یک داور در نقاط تصمیمگیر (Decision-point Arbiter) تغییر کند.
حفاظهای فنی
برای حفظ پایداری و جلوگیری از فروپاشی سیستم، سازوکارهای فنی خاصی پیاده شده است:
- جلوگیری از حلقه (Loop Prevention): برای اینکه سیستم در حلقههای خودارجاعی گیر نکند — جایی که هوش مصنوعی صرفاً کار هوش مصنوعی دیگر را نمره میدهد و خروجی واقعی تولید نمیشود — هر چرخه باید به این سؤال پاسخ دهد: «مصنوع خارجی (External Artifact) این چرخه چیست؟». هر چرخهای که خروجی خارجی نداشته باشد، پس از یک پنجره ۴۸ ساعته حذف و منقضی میشود.
- عاملیت پیشدستانه (Proactive Agency): هر عامل یک پردازش فعال مقیم (Resident Worker Process) دارد — شبیه به میزی که هرگز خاموش نمیشود — تا به جای منتظر ماندن برای دریافت پرامپت، فعالانه و پیشدستانه عمل کند.
- مدیریت اهداف (Goal Stewardship): عضو حاکمیت یک پشته اهداف سه منبعی را مدیریت میکند که شامل «صف حاکمیت»، «دستورات اعزام» و «خود-تأملی» (Self-reflection) است. این تنها ارگانی است که در زمان بیکاری بهدنبال کار میگردد؛ هرچند یک بار به دلیل اتمام «سوخت» اطلاعاتی، به مدت سه هفته متوقف ماند.
شکاف عملکرد
کارنامه این شرکت نشان میدهد سیستم حافظه عمومی آنها در محکهای حافظه بلندمدت از mem0 بهتر عمل میکند. همچنین آنها توانستند امتیاز خودبهبودی (Self-improvement) مدل را در نسخههای پیادهسازی شده از ۱/۵ به ۳/۵ برسانند، اما نه با تعویض مدل، بلکه از طریق مهندسی خط لولههای داده.
با این حال، مؤسس Nautilus صادقانه اعلام کرده که درآمد این شرکت دقیقاً صفر دلار است. تا اواخر سپتامبر ۲۰۲۶، هیچیک از این قابلیتهای فنی به جذب یک مشتری پرداختکننده تبدیل نشده است. این تجربه نشان میدهد گلوگاه سازمانهای خودگردان مبتنی بر هوش مصنوعی، لزوماً هوش مدل نیست، بلکه چارچوب حاکمیتی (Governance Framework) است. این چالش در تضاد با استراتژی EarthLink Network برای اتوماسیون کامل عملیات شرکتی قرار دارد که بر محصولات داخلی برای مدیریت مقیاسپذیر تمرکز کرده است. با تبدیل قضاوت انسانی به یک منبع کمیاب و ساخت دفتر ثبت وقایع پیش از اتوماسیون، مؤسس یک ماشین شفاف، هرچند هنوز غیرسودآور، خلق کرده است.
گام بعدی شما
برای کسانی که قصد تکرار این مدل را دارند، مؤسس توصیه میکند:
- معیارهای پذیرش (Acceptance Criteria) را پیش از شروع کار عاملها بنویسید و آنها را منجمد کنید.
- اطمینان حاصل کنید که هر حکم انسانی به جای تبخیر شدن در لاگهای چت، در حافظه سازمانی ثبت شود.
- برای بررسی جزئیات پروتکل صندوق پستی و تأییدیه، به وبسایت data.nautilus.social مراجعه کنید.
علاوه بر این، اکنون میتوان به Nautilus Assay دسترسی داشت؛ یک ابزار تأیید شخص ثالث برای ادعاهای مربوط به قابلیتهای هوش مصنوعی که در حال باز کردن یک دور آزمایشی رایگان و محدود است. این ابزار شامل تسکهای واقعی، معیارهای پیشثبت شده، کارنامههای امضا شده و یک پنجره برای به چالش کشیدن نتایج خواهد بود. جزئیات ثبتنام در github.com/chunxiaoxx/nautilus-compass در دسترس است.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو