تصور کنید یک برنامهنویس عاملهای هوش مصنوعی را برای مناقصه در بازارهای فریلنسری مستقر کرده است، اما نیمی از بودجهاش صرف این میشود که مدل مدام بپرسد «آیا کسی جواب داده است؟». این هزینهی بیهوده، نقطهی ضعف بسیاری از سیستمهای عاملمحور است که برای هر تغییر کوچک، کل صفحه را برای مدل زبانی بازخوانی میکنند. رویکرد Oroboro Labs بر این اصل استوار است که «نبودِ بهروزرسانی، یک واقعیت قابل اندازهگیری است، نه یک تفسیر». آنها با پذیرش این ذهنیت، استنتاج گرانقیمت مدل را با مقایسهی سادهی فایلها جایگزین کردند و توکنهای تلفشده در اثر خوانشهای مداوم صفحات را حذف کردند.
به نقل از یادداشتهای میدانی Oroboro Labs در ۳۰ اوت ۲۰۲۶ (یادداشت شماره ۲۳)، یک عامل که ۸ پیشنهاد فعال در یک بازار فریلنسری داشت، ۶۵ ساعت را بدون دریافت حتی یک پاسخ از سوی مشتری گذراند. در حالت عادی، بررسی این سکوت نیازمند بارگذاری کامل پنل و استنتاج (Inference) — مثل لحظهای که یک آشپز واقعاً غذا میپزد، نه دورهی آموزش او — است که هم توکن میسوزاند و هم ریسک توهم (Hallucination) — شبیه دوستی که خاطرهای را اشتباه تعریف میکند — را بالا میبرد؛ جایی که مدل ممکن است بهطور خیالی تغییری را تصور کند که در واقعیت وجود ندارد.
همانطور که در تحلیلهای قبلی ما دربارهی بهینهسازی هزینههای عملیاتی مدلها اشاره کردیم، تکیه بر مدل برای کارهای ساده، یک اشتباه استراتژیک است. تیم Oroboro متوجه شد که برای تشخیص تغییر در صفحه، نیازی به «فهمیدن» متن نیست، بلکه فقط «تغییر» در بایتها کافی است. این ابزار بهطور اتفاقی در حین رفع یک اختلاف شمارشی بین دو پنجرهی حسابرسی (Audit Windows) کشف شد. تیم متوجه شد وقتی یک اسکرپ (Scrape) از پنل را دو بار در یک شب اجرا کردند، فایلها بایتبهبایت یکسان بودند.
طبق مستندات این تیم، مکانیزم «نگهبان پاسخ» (Reply Sentinel) که بر اساس یک عملیات سادهی سیستمفایل (Filesystem Operation) بنا شده، به این صورت عمل میکند:
- تخلیه وضعیت (State Dump): سیستم وضعیت فعلی پنل پیشنهادات را در فایلی با برچسب زمانی در نام آن ذخیره میکند.
- تخلیه دورهای (Interval Dump): مدتی بعد، یک کپی دوم از وضعیت صفحه گرفته میشود.
- مقایسه بایتها (Byte Comparison): سیستم یک diff (مقایسه تفاوتها) بین دو فایل اجرا میکند.
- شناسایی (Identification): اگر بایتها متفاوت باشند، سیستم ابتدا ردیف تغییریافته را از طریق ID شناسایی میکند، پیش از آنکه هر انسان یا مدلی به محتوا نگاه کند.
اگر فایلها یکسان باشند، این نگهبان در چند میکروثانیه نتیجه را «null» اعلام میکند، بدون اینکه حتی یک توکن (Token) — تکههای کوچکی از متن، مثل برشهای کیک که مدل میخورد — مصرف شود. این یک اندازهگیری است، نه تفسیر.
این تغییر، نظارت را از دنیای «تفسیر» به دنیای «اندازهگیری» میبرد. سیستمهای مبتنی بر تفسیر، با افزایش اعتمادبهنفس کاذب مدلها یا وقتی مدلها تفاوتها را بهصورت گذرا میبینند (Skim)، بهآرامی و بیصدا تخریب میشوند. اما سیستم مقایسهای نمیتواند کاربر را فریب دهد یا چاپلوسی کند؛ خروجی آن دقیقاً دو حالت است: برابر یا نابرابر.
این انضباط تضمین میکند که عامل هرگز پیامی را اشتباه نخواند، زیرا تا زمانی که نگهبان تغییر را تأیید نکند، مدل هرگز پیام را نمیخواند. نگهبان صرفاً گزارش میدهد که چیزی تغییر کرده و به ردیف مربوطه اشاره میکند.
البته این روش محدودیتهایی دارد. طبق گزارش تیم، این متد diff فقط میگوید «اتفاق افتاده است»، اما نمیتواند توضیح دهد «چرا». برای مثال، آنها متوجه شدند قیمتهای نمایش داده شده در رابط کاربری مشتری، تقریباً ۲۵٪ بیشتر از مبلغی است که آنها واقعاً تایپ کرده بودند. این تضاد میان قیمت واقعی و نمایشی، یادآور تجربیات اتوماسیون در بازارهای برزیل است که در آن موانع دسترسی بر سرعت رشد اثرگذارتر بودند. سیستم diff نمیتواند تشخیص دهد که آیا این قیمت مانع پاسخ است یا اصلاً پیشنهادات توسط مشتری خوانده شدهاند یا خیر.
برای مدیریت این موضوع، آنها این منطق را پیاده کردند:
- نگهبان ارزانقیمت همیشه و بهطور مداوم در حال اجراست.
- خوانش گرانقیمت مدل فقط زمانی رخ میدهد که نگهبان بگوید «نابرابر».
- در صورت رسیدن به ضربالاجل (Deadline) برای ارسال پیگیری، فارغ از نتیجهی diff، مدل فراخوانده میشود. این رویکرد برای مدیریت زمانها، مشابه متدهای بهینهسازی مهلتهای زمانی در ارتباطات هوشمند است که برای جلوگیری از شکست در ارتباطات مستقیم به کار میروند.
برای توسعهدهندگان، این رویکرد «واقعیتِ سکوت» را از «فرضیه درباره علت سکوت» جدا میکند. سکوتِ اندازهگیری شده یک واقعیت است؛ سکوتِ توضیح داده شده یک فرضیه است. در آینده، شاهد الگوهای مشابه «محاسبات کم» (Low-compute) خواهیم بود، زیرا توسعهدهندگان از بهکارگیری LLMها برای وظایف سادهی نظارت بر وضعیت (State-monitoring) که توسط مهندسی نرمافزار سنتی قابل حل است، فاصله میگیرند.
گام بعدی شما
- در پروژههای خود، هر کجا که مدل زبانی را برای نظارت بر «تغییر وضعیت» (State Monitoring) به کار بردهاید، آن را با یک هش (Hash) یا diff ساده جایگزین کنید.
- تفکیک کنید که «واقعیتِ سکوت» یک داده است و «فرضیه درباره علت سکوت» یک تحلیل؛ هرگز برای استخراج داده، از ابزار تحلیل استفاده نکنید.
- بررسی کنید که آیا میتوانید لایهی نظارت را به سطح سیستمفایل منتقل کنید تا هزینهی API را کاهش دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو