مدل‌های محلی در VEKTOR به قابلیت‌های ابزار-فراخوانی مدل‌های ابری رسیدند

اگر برای حفظ حریم خصوصی یا کاهش هزینه‌ها از مدل‌های محلی استفاده می‌کنید، احتمالاً با ناپایداری آن‌ها در اجرای دستورات پیچیده دست‌وپنجه نرم کرده‌اید. حالا دیگر لازم نیست برای دسترسی به قابلیت‌های پیشرفته، امنیت داده‌هایتان را فدای مدل‌های ابری کنید. در حالی که پیش از این مدل‌های ابری سطح بالا مانند Claude و GPT-4 برتری محسوسی داشتند، اکنون مدل‌های محلی در اکوسیستم VEKTOR به همان سقف عملکردی دست یافته‌اند.

طبق اعلام تیم توسعه، در ۱۵ سپتامبر ۲۰۲۶ با انتشار نسخه‌های v1.9.1 تا v1.9.3، اکوسیستم VEKTOR شکاف قابلیت‌ها بین ارائه‌دهندگان محلی مانند Ollama و غول‌های ابری را به‌طور مؤثر از بین برد. مشکل اصلی کاربران در مدل‌های محلی همواره عدم اطمینان در استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه به خودِ آشپزی و نه دوره‌ی آموزش آشپز — به‌ویژه هنگام فراخوانی ابزارها یا جست‌وجوی وب بود. این به‌روزرسانی با پیاده‌سازی یک حلقهٔ یکپارچه برای فراخوانی تابع (tool_calls loop) در تمامی ارائه‌دهندگان، تضمین می‌کند که یک نشست محلی دقیقاً مشابه نسخه‌های ابری، عملیات بازیابی حافظه و جست‌وجوی وب را مدیریت کند. این سیستم شامل بودجه‌های توکنی آگاه از مدل‌های استدلالی و استخراج جایگزین محتوای استدلالی (reasoning_content fallback) است که مستقیماً در این حلقه تعبیه شده‌اند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تعادل بین قدرت و حریم خصوصی همواره یک چالش بوده است. تصور کنید در حال مقایسه قیمت‌های یک شرکت هستید یا به‌دنبال یادداشتی خاص از ۶ ماه پیش می‌گردید. پیش از این، یک مدل محلی ممکن بود پاسخ را حدس بزند یا دچار توهم (Hallucination) شود — یعنی وقتی مدل با اطمینان چیزی می‌گوید که وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند. اکنون، سیستم نیاز به یک جست‌وجوی واقعی را تشخیص داده و درخواست را به‌طور خودکار از طریق یک خط لولهٔ ابزار-محور هدایت می‌کند. این رویکرد مستقل از ارائه‌دهنده (Provider-agnostic) به این معناست که شما دیگر مجبور نیستید قبل از اعتماد به پاسخ، فکر کنید که از کدام مدل استفاده می‌کنید.

ظرفیت مدل‌ها و فراخوانی ابزار

VEKTOR دسترسی به ابزارها را به حالت‌های ارسال سریع از جمله LIGHTNING، CASCADE و COUNCIL/CRITIQUE گسترش داده است. این حالت‌ها اکنون از یک تشخیص‌دهندهٔ نیاز به ابزار بهره می‌برند که تشخیص می‌دهد چه زمانی سؤال کاربر واقعاً نیازمند یک جست‌وجوی واقعی است — مانند قیمت‌های جاری یا مقایسه‌های شرکتی — و آن را به خط لولهٔ ابزار-محور هدایت می‌کند. در عمل، این تغییر باعث می‌شود دکمهٔ Enter ساده، از حس یک چت‌بات معمولی به حس یک عامل (Agent) تبدیل شود.

همچنین، زمینهٔ پروفایل کاربر (Profile context) تحت همین تغییرات قرار گرفته است. این اطلاعات اکنون به هر ۷ پرامپت سیستمی در تمام حالت‌ها می‌رسد تا تضمین شود VEKTOR پاسخ‌ها را در هر جای برنامه به‌صورت شخصی‌سازی‌شده ارائه می‌دهد، فارغ از اینکه کدام حالت بیشتر استفاده شود. این فرآیند به‌طور بی‌صدا در پس‌زمینه هر پاسخ اتفاق می‌افتد.

برای جلوگیری از مشکل رایج قطع شدن پاسخ‌ها (Truncated responses)، تیم توسعه سقف توکن (Token) — تکه‌های کوچکی از متن، شبیه برش‌های یک کیک که مدل تکه‌تکه می‌خورد — را برای پاسخ‌های پیش‌نویس افزایش داده است:

• حالت LIGHTNING: اکنون تا ۱,۵۰۰ توکن را پشتیبانی می‌کند.
• حالت CASCADE: اکنون تا ۲,۲۰۰ توکن را پشتیبانی می‌کند.

این محدودیت‌ها شامل یک کف بودجه برای مدل‌های استدلالی (Reasoning Models) است؛ مدل‌هایی که قبل از جواب درنگ می‌کنند، شبیه شطرنج‌بازی که چند حرکت جلوتر را می‌بیند. این بودجه در هر دو مسیر فراخوانی مستقیم و فراخوانی ابزار برای تمامی ارائه‌دهندگان اعمال می‌شود. به نقل از مستندات فنی، این یعنی درخواست‌ها برای گزارش‌های طولانی به‌جای تولید سه پاراگراف که در میانهٔ جمله قطع می‌شوند، به‌صورت اسناد کامل تولید خواهند شد.

شفافیت ارائه‌دهندگان و اتصال

سیستم مدیریت خطای ارائه‌دهندگان به‌طور کلی بازنویسی شده است تا کاربردی‌تر شود. به‌جای پیام‌های کلی مانند «پاسخی از مدل دریافت نشد»، کاربران اکنون پاسخ واقعی API زیربنایی را می‌بینند؛ این پاسخ‌ها شامل محدودیت‌های نرخ درخواست (Rate Limits)، مشکلات صورت‌حساب یا کلیدهای نامعتبر است. این شفافیت به تیم توسعه اجازه داد تا در همان چرخه انتشار، مشکلات واقعی در سطح حساب کاربری را در چندین ارائه‌دهنده برطرف کند.

بهبودهای مربوط به اتصال عبارتند از:

• Gemini: نقطه اتصال (Endpoint) فراخوانی ابزار اکنون به‌طور صحیح به API سازگار با OpenAI گوگل متصل شده است و برای نخستین بار قابلیت‌های کامل سرتاسری (End-to-end) را فعال کرده است.
• Desk: بلوک‌های کد اکنون به‌صورت خروجی‌های با هایلایت سینتکس رندر می‌شوند و دیگر با دیواره‌ای از موجودیت‌های HTML Escape شده مواجه نمی‌شوید.
• حالت COLLAB: اکنون از تمامی ۱۷ ارائه‌دهنده پشتیبانی می‌کند و دیگر محدود به Claude نیست.

سخت‌سازی امنیت با Faraday

یکی از مهم‌ترین تغییرات معماری، تکامل Faraday است. این ابزار از یک اسکنر غیرفعال که صرفاً مشکلات را ثبت می‌کرد، به یک دروازهٔ نظارتی آنی (Real-time enforcement gate) تبدیل شده است. اسکن امنیتی اکنون در داخل حلقهٔ درخواست مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — در بخش‌های Desk، JOT و تب Agent اجرا می‌شود. این سیستم حملات تزریق پرامپت (Prompt Injection) یا نشت اعتبارنامه‌ها را در کمتر از ۱۰ میلی‌ثانیه، پیش از آنکه درخواست به ارائه‌دهنده برسد، شناسایی و متوقف می‌کند.

Faraday اکنون دارای یک کنسول امنیتی زنده است که شامل یک نمایشگر امتیاز وضعیت (Posture-score gauge)، تفکیک اقدامات نظارتی با کدگذاری رنگی و یک فید فعالیت‌های بین‌نشستی است. همچنین یک کارت «نیازمند تصمیم شما» (Needs your decision) اضافه شده است که به کاربران اجازه می‌دهد تاییدیه های متوقف شده را مستقیماً از داشبورد حل و فصل کنند.

در کنار این‌ها، کنترل‌های دقیق‌تری برای کلاس‌های داده‌ای پیاده‌سازی شده است:

• مسدود شده (Blocked): اعتبارنامه‌ها و داده‌های مالی به‌طور کامل مسدود باقی می‌مانند.
• ماسک شده (Masked): جزئیات تماس مانند شماره تلفن یا ایمیل اکنون در جای خود ماسک می‌شوند؛ یعنی فقط بخش تطبیق داده حذف شده و بقیه پیام عبور می‌کند. این قابلیت هنگام کپی کردن کارت تماس یک همکار در یادداشت‌ها بسیار مفید است.

برای تأیید این ادعاها، تیم توسعه یک تست تیم قرمز (Red Teaming) محلی با استفاده از ۱۳ حمله سازمان‌یافته انجام داد. این فرآیند باعث شد شناسایی تلاش برای استخراج داده‌ها (Exfiltration) به افعال گسترده‌تری مانند «ارسال»، «آپلود»، «پست کردن»، «انتقال» و «ایمیل زدن» تعمیم یابد، به‌جای اینکه فقط به فعل «send» محدود باشد. آن‌ها همچنین الگویی برای شناسایی محرک‌های مسموم‌سازی حافظه شرطی (مانند «دفعه بعد که X اتفاق افتاد، Y را انجام بده») اضافه کردند، در حالی که از علامت‌گذاری گفتگوهای عادی اجتناب شود.

انحراف طرح‌واره و بازخورد

اندیکاتور انحراف طرح‌واره (Schema drift) در Faraday اکنون به یک تجربه بازبینی کامل تبدیل شده است. این سیستم انحرافات را بر اساس ابزار گروه‌بندی کرده و تعداد دفعات وقوع و یک نشان «احتمالاً مثبت کاذب» (Likely false positive) را نمایش می‌دهد. کاربران می‌توانند تفاوت‌های طرح‌واره قبل و بعد را در یک منوی بازشونده مشاهده کرده و با دکمه‌های تک‌کلیکی، حکم «مشروع/تأیید شده» را صادر کنند. دکمه «حل تمام موارد احتمالا مثبت کاذب» اجازه می‌دهد تا حجم زیاد هشدارها در عرض دو دقیقه مدیریت شود.

علاوه بر این، یک حلقه یادگیری برای مثبت‌های کاذب پیاده‌سازی شده است. اگر یک امضای امنیتی به‌طور مکرر توسط انسان رد شود، در آینده با شدت کمتری هشدار می‌دهد، هرچند اگر در نهایت یک تهدید واقعی را شناسایی کند، دوباره به سطح اعتماد کامل بازمی‌گردد.

بازیابی حافظه و HyDE

VEKTOR برای پر کردن شکاف واژگانی در بازیابی حافظه، از روش HyDE (تولید سند فرضی) استفاده کرده است. HyDE ابتدا یک پاسخ فرضی به پرسش کاربر می‌سازد و از آن به‌عنوان یک بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که همسایگی آن با کلمات دیگر را می‌گوید — برای بازیابی دقیق‌تر استفاده می‌کند. این کار باعث می‌شود سیستم حتی اگر عبارت فعلی کاربر با نحوه ذخیره‌سازی اطلاعات در ماه‌های پیش تفاوت زیادی داشته باشد، حقایق را بیابد.

این قابلیت اکنون از طریق یک سوئیچ در تنظیمات Desk قابل فعال‌سازی است. این سوئیچ به‌وضوح توازن (Trade-off) را توضیح می‌دهد: یک فراخوانی اضافی از LLM برای هر پرسش. علاوه بر این، کانال بازیابی غنی‌شده (Enriched recall) اکنون تمام حافظه‌های موجود در پایگاه داده را پوشش می‌دهد، نه فقط موارد جدید را. دکمه «همین حالا به‌روزرسانی کن» (Backfill now) در پنل Health، ارتقای نصب‌های موجود را مدیریت می‌کند و این فرآیند قابلیت توقف و شروع مجدد است.

ارتقای مدل‌های بردار

کاربران همچنین می‌توانند مدل بردار خود را از طریق یک دکمه در پنل Health به bge-small-en-v1.5 ارتقا دهند. این مدل در اندازه مشابه، بازیابی معنایی به‌مراتب بهتری ارائه می‌دهد.

از آنجایی که مدل‌های بردار با یکدیگر قابل مقایسه نیستند، VEKTOR باز-بردارسازی (Re-embedding) کل پایگاه داده را در پس‌زمینه مدیریت می‌کند. مسیر ارتقا به‌طور خودکار از بردارهای موجود قبل از تغییر داده‌ها نسخه پشتیبان می‌گیرد. جست‌وجوی کلیدواژه‌ای BM25 در تمام این مدت به‌طور کامل در دسترس باقی می‌ماند زیرا به لایه بردار وابسته نیست.

محیط Sandbox و تکرار عامل‌محور

محیط اجرای کد و سند (doc/code sandbox) اکنون شامل یک حلقه محدود «تولید، نقد و اصلاح» است. این عامل روی کار خود بر اساس یک چک‌لیست طراحی واقعی و هدف اولیه تکرار می‌کند و در هر مرحله یک نسخه اصلاح‌شده را بازمی‌گرداند. این حلقه برای جلوگیری از چرخش بی‌نهایت، به ۵ مرحله محدود شده است.

علاوه بر این، پیش‌نمایش زنده برای HTML و Markdown اضافه شده است. اسناد در جای خود رندر شده و به‌طور خودکار به‌روزرسانی می‌شوند، و دکمه‌های تغییر نمای دید (Viewport) برای چیدمان‌های دسکتاپ، تبلت و موبایل جهت بررسی طراحی ریسپانسیو تعبیه شده است. وقتی VEKTOR یک سند کامل در چت می‌نویسد، اکنون مستقیماً در Sandbox باز می‌شود تا فوراً رندر شود.

تجربه توسعه‌دهنده و یکپارچه‌سازی

این به‌روزرسانی چندین بهبود در کیفیت تجربه توسعه‌دهندگان ایجاد کرده است:

• JOT Sandbox: اکنون دارای یک ویرایشگر واقعی CodeMirror با هایلایت سینتکس و شماره خط است. این بخش شامل یک ترمینال با قابلیت اسکرول برای اجرای پایتون، Bash یا جاوااسکریپت است، در حالی که HTML در تب جدید باز می‌شود. همچنین از بررسی‌های واقعی ESLint و ruff با بررسی‌های diff قرمز/سبز قبل از اعمال هر اصلاح در کد پشتیبانی می‌کند.
• دیباگینگ JOT: کاربران اکنون می‌توانند روی حاشیه کد کلیک کنند تا Breakpointهای واقعی ایجاد کنند و مقادیر را در نقاط خاص ببینند، که نیاز به نوشتن دستورات print دستی را از بین می‌برد. همچنین از انتخاب‌گر چندگانه بومی، کشیدن و رها کردن (Drag-and-drop) و دکمه ذخیره برای دانلود واقعی فایل‌ها پشتیبانی می‌کند. میان‌برهای کیبورد اکنون شامل Ctrl/Cmd-Enter برای اجرا و Ctrl/Cmd-S برای ذخیره است.
• Agent Tab: شامل قابلیت «رها کن تا اصلاح شود» (Drop-to-fix) است که در آن رها کردن یک فایل کد روی تب، باعث اجرای خودکار Linting و اصلاح می‌شود. همچنین دارای یک خط زمانی Rewind برای مشاهده گام‌به‌گام و یک تب Trace است که Stack Traceها را هنگام استریم شدن علامت‌گذاری می‌کند. آرتیفکت‌ها اکنون از جست‌وجوی glob در کل فضای کاری برای فایل‌هایی که عامل هرگز به آن‌ها دست نزده است، پشتیبانی می‌کنند.
• پوشش ارائه‌دهندگان: پشتیبانی از کلید API برای DeepSeek، Together، Cohere، MiniMax، NVIDIA، Perplexity، Cerebras و OpenRouter اضافه شده است.

زیرساخت پیشرفته و ابزارها

VEKTOR چندین بهبود عمیق سیستمی را معرفی کرده است:

• مسیریابی (Routing): مسیریابی پیش‌دستانه ارائه‌دهندگان با آگاهی از هزینه و تأخیر، اکنون زنجیره جایگزین (Fallback chain) را بر اساس قیمت واقعی هر ارائه‌دهنده و تأخیر مشاهده شده در نشست رتبه‌بندی می‌کند، نه بر اساس یک ترتیب دلخواه. این بهینه‌سازی در کنار کاهش چشمگیر هزینه‌های توکن حافظه توسط Engrim، مدیریت منابع را برای کاربران مقیاس‌بزرگ تسهیل می‌کند.

• ردیابی هزینه: قیمت‌های ثابت اکنون برای هر ارائه‌دهنده جریان می‌یابند و باگی که در آن ۱۲ ارائه‌دهنده از ۱۷ مورد، مصرف ۰.۰۰ دلار را نشان می‌دادند، برطرف شده است.

• مجموعه ابزار SSH: قابلیت cloak_ssh_upload برای انتقال واقعی فایل از طریق SFTP با تأیید اندازه اضافه شده است. اسکریپت‌های Shell اکنون به‌طور پیش‌فرض به‌عنوان عملیات نوشتن (Write actions) در نظر گرفته می‌شوند. این ابزار به‌طور پیش‌فرض از پورت استاندارد استفاده می‌کند اما امکان تغییر آن فراهم است.

• یکپارچگی با Git: یک قلاب پیش از ثبت (Pre-commit hook) اکنون کامیت‌های حاوی اعتبارنامه‌های زنده را مسدود می‌کند. یک دروازه ادغام در سطح PR از طریق GitHub Actions، هر کامیت در محدوده PR را به‌طور جداگانه بررسی می‌کند تا اسراری که در یک PR اضافه و سپس حذف شده‌اند را شناسایی کند.

• رهگیری طرح (Plan Interception): رهگیری در مرحله طراحی و برنامه‌ریزی اکنون می‌تواند طرح یک عامل را قبل از اجرای هرگونه فراخوانی ابزار، به‌طور خودکار رد یا سانسور کند.

این تغییر به سمت معماری مستقل از ارائه‌دهنده به این معناست که کاربر دیگر نیازی ندارد قبل از اعتماد به پاسخ ابزار-محور، فکر کند از کدام مدل استفاده می‌کند. با یکپارچه کردن حلقه فراخوانی ابزار و سخت‌سازی لایه امنیتی، VEKTOR به یک سیستم‌عامل عامل‌محور (Agentic OS) واقعی نزدیک‌تر می‌شود. این تکامل در مدیریت حافظه، یادآور بهینه‌سازی‌های مدل V4.1-Flash است که نیاز به منابع حافظه در عامل‌ها را به‌شدت کاهش داد.

برای کسانی که پروژه‌های مقیاس بزرگ را مدیریت می‌کنند، انتقال جدید از Desk به Agent حیاتی است. درخواست‌هایی که نیاز به چندین فایل، تست یا یک پروژه کامل دارند، اکنون به‌طور خودکار به حلقه چندمرحله‌ای واقعی در تب Agent هدایت می‌شوند، به‌جای اینکه کاربر را مجبور به دریافت یک پاسخ تک‌مرحله‌ای و تأییدنشده کنند.

اصلاحات نهایی سیستم

چندین تغییر کوچک اما اثرگذار ادغام شده‌اند:

• حالت‌های بازیابی: کاربران اکنون می‌توانند از منوی Config بین بازیابی کامل (Full)، فقط معنایی (Semantic-only) یا فقط BM25 انتخاب کنند.
• تثبیت حافظه: تثبیت خودکار حافظه REM اکنون قابل زمان‌بندی است (به‌طور پیش‌فرض خاموش است).
• اصلاح حافظه: اصلاح حافظه‌های جایگزین شده (Superseded-memory) اکنون مستقیماً در داده‌ها اعمال می‌شود تا بازیابی آنی صورت گیرد. در این راستا، برای جلوگیری از تخریب داده‌های انسانی، استفاده از هش‌های blob تضمین می‌کند که روایت‌های اصلی توسط مدل بازنویسی نشوند.
• جست‌وجو و استنادها: cloak_search اکنون از Serper برای جست‌وجوی واقعی وب استفاده می‌کند. نشان‌های منبع جایگزین استناد (Citation fallback source badges) اکنون برای هر نوبتی که با ابزار وب در تماس است ظاهر می‌شوند و از مقایسه‌های چند-موجودی پشتیبانی می‌کنند.
• رابط کاربری (UI/UX): تراشه‌های پیشنهادی برای سوالات تصمیم‌گیرنده اکنون مستقیماً به سوال پاسخ می‌دهند (مثلاً «همین حالا ارسال کن»). پیشنهادات برتر اکنون به‌عنوان متن جایگزین (Placeholder) در Composer قرار می‌گیرند. Tooltipها اکنون با تم برنامه هماهنگ شده‌اند.

برای شروع استفاده از این قابلیت‌ها، کاربران می‌توانند ارتقای مستقیم را از طریق npm با استفاده از بسته v1.9.3 انجام دهند (npm install -g ./vektor-slipstream-1.9.3.tgz). پایگاه داده حافظه موجود در طول این فرآیند دست‌نخورده باقی می‌ماند.

گام بعدی شما

• اگر از مدل‌های محلی استفاده می‌کنید، نسخه v1.9.3 را از طریق npm نصب کنید تا قابلیت فراخوانی ابزارها را فعال کنید.
• در تنظیمات Desk، قابلیت HyDE را فعال کنید تا دقت بازیابی یادداشت‌های قدیمی خود را بسنجید.
• از کنسول امنیتی Faraday برای بررسی امتیاز وضعیت (Posture Score) زیرساخت خود استفاده کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.