تصور کنید توسعه‌دهنده‌ای هستید که می‌خواهید افزونه‌ای را منتشر کنید، اما باید ساعت‌ها منتظر بمانید تا یک اپراتور انسانی یا چندین مدل کند، محتوای شما را بررسی کند. این انتظار اکنون به پایان رسیده است؛ EmDash در ۷ اکتبر ۲۰۲۶ مدل تصمیم‌گیر Clef را برای غربالگری متاداده‌ها، لینک‌ها و تصاویر به کار گرفت.
این سیستم اکنون هر فهرست افزونه را پیش از رسیدن به کاتالوگ عمومی بررسی می‌کند تا از انتشار فیشینگ و محتوای نامناسب جلوگیری کند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، ایجاد تعادل میان آزادی انتشار و نظارت بر محتوا در شبکه‌های غیرمتمرکز یک چالش همیشگی است. در اینجا، چون افزونه‌ها بر بستر پروتکل AT (AT Protocol) منتشر می‌شوند، EmDash کنترلی روی رکوردهای اصلی ندارد، اما باید آنچه کاربر در صفحه جست‌وجو می‌بیند را مدیریت کند.
برخلاف مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — مدل Clef به جای تولید متن، به پرسش‌های محدود با احتمالات عددی پاسخ می‌دهد. طبق مستندات این سیستم، بررسی‌ها در دو سطح انجام می‌شود:
- متن و لینک‌ها: ۹ پرسش درباره محتوای جنسی، نفرت‌پراکنی، خشونت، فیشینگ و جعل هویت.
- دارایی‌های بصری: ۸ پرسش برای هر آیکون و اسکرین‌شات جهت شناسایی رسانه‌های فریبنده.
برای جلوگیری از مثبت کاذب، سیستم لینک‌ها را بر اساس مقصد و متن ارزیابی می‌کند، نه اسکرین‌شات؛ به این ترتیب ابزارهایی مثل فیلترهای اسپم به‌اشتباه مسدود نمی‌شوند.
به نقل از مت کین (Matt Kane)، نگهدارنده اصلی پروژه، خط لوله قبلی به دو مدل عمومی برای متن و یک مرحله مجزا برای تصاویر نیاز داشت که باعث کندی و خطاهای زمانی (Timeout) می‌شد. اما Clef یک مدل چندوجهی (Multimodal) — شبیه به ما که با چند حس دنیا را می‌خوانیم — است و هر دو ورودی را در یک مرحله پردازش می‌کند.
بر اساس ارزیابی‌های داخلی، این مدل در ۶۳ اجرای مختلف روی ۲۱ نمونه متنی، نرخ موفقیت ۱۰۰٪ داشت. همچنین تأخیر استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند — در سطح p95 به ۱.۶۴ ثانیه رسید که تجربه توسعه‌دهندگان را به‌شدت بهبود بخشید.
باید بدانید که مدل هرگز تصمیم نهایی برای مسدودسازی را نمی‌گیرد. هر نتیجه‌ای با احتمال ۰.۴۵ یا بالاتر، برای بررسی نهایی به یک اپراتور انسانی ارجاع داده می‌شود تا مسیر ایمنی تضمین شود.
این تغییر نشان‌دهنده ترجیح «مدل‌های تصمیم‌گیر» بر «مدل‌های مولد» برای وظایف زیرساختی است. با اولویت دادن به احتمال به‌جای متن، EmDash تأخیر را کم و قابلیت اطمینان را بالا برده است. اکنون توسعه‌دهندگان می‌توانند از طریق CLI افزونه‌های خود را منتشر کنند و سیستم به‌طور خودکار بررسی‌ها را پیش از نمایش در کاتالوگ اجرا می‌کند.
گام بعدی شما
- اگر توسعه‌دهنده هستید، از CLI جدید EmDash برای انتشار سریع‌تر افزونه‌ها استفاده کنید.
- مدل‌های تصمیم‌گیر (Decision Models) را برای جایگزینی با LLMهای کند در بخش‌های نظارتی پروژه خود بررسی کنید.
- نرخ احتمال (Probability) را به جای خروجی متنی برای اتوماسیون‌های حساس به زمان به کار ببرید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو