VEKTOR 2.0 حافظهٔ محلی را جایگزین وابستگی به ابر در عامل‌های هوش مصنوعی کرد

تصور کنید دستیاری دارید که تمام اسرار تجاری و یادداشت‌های شخصی شما را می‌داند، اما هیچ‌کدام از این داده‌ها هرگز از هارد دیسک کامپیوتر شما خارج نمی‌شوند. این وعدهٔ اصلی VEKTOR 2.0 است؛ لایه‌ای از حافظه و دستیار که حاکمیت داده‌ها را به کاربر بازمی‌گرداند.

در حالی که اکثر دستیارهای هوش مصنوعی برای پردازش به ابر (Cloud) متکی هستند، VEKTOR به‌طور کامل روی سیستم کاربر اجرا می‌شود. این نرم‌افزار توسط یک تیم کوچک و خودگردان عرضه شده است. این لایه حافظه و دستیار به کاربران اجازه می‌دهد مدل‌های باز (Open) یا مدل‌های پیشرو (Frontier) را به یک پایگاه‌داده محلی و خصوصی متصل کنند تا اطلاعات حساس، مگر با اجازه صریح کاربر، هرگز دستگاه را ترک نکند.

بسیاری از دستیارهای مدرن از روش بازیابی ابری استفاده می‌کنند که در آن، داده‌های شما در واقع بهای پنهان برای استفاده از یک سرویس «رایگان» است. VEKTOR در مقابل این جریان به عنوان یک جنبش متقابل ظاهر شده است؛ این سیستم حافظه هوش مصنوعی را نه یک تسک ساده بازیابی (Retrieval)، بلکه یک زیرساخت محلی و دائمی می‌بیند. هدف این ابزار، کاربران تجاری هستند که به عاملی نیاز دارند که حقایق خاص را به‌خاطر بسپارد و از طرف آن‌ها عمل کند، بدون اینکه گمنامی و حریم خصوصی آن‌ها فدا شود.

همان‌طور که در بحث‌های گذشته‌ی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، انتقال پردازش به لبه (Edge Computing) تنها راه تضمین حریم خصوصی است. فلسفه VEKTOR بر این باور است که انتخاب ابزار هوش مصنوعی باید مانند انتخاب محل ذخیره فایل‌ها و تعیین اینکه چه کسی بتواند آن‌ها را بخواند، کاملاً در دست کاربر باشد. توسعه‌دهندگان این پروژه، تیمی کوچک هستند که ردیف‌های طولانی از مهندسان یا مزرعه‌های اجاره‌ای GPU برای استنتاج ندارند. در عوض، آن‌ها بر رویکرد «حریم خصوصی در طراحی» (Privacy by Design) تمرکز کرده‌اند، جایی که کدها متعلق به خودشان است و در حدود ۱۷۰ هزار خط جاوااسکریپت نوشته شده است.

برای حفظ شفافیت کامل، این تیم از چند مؤلفه متن‌باز مشخص استفاده کرده است؛ از جمله PDF.js برای خواندن فایل‌های PDF، ONNX Runtime و مدل Silero برای تشخیص صدا. تمامی این موارد به همراه مجوزهای (Licenses) مربوطه‌شان در بسته نرم‌افزاری ذکر شده‌اند.

در قلب VEKTOR 2.0 یک فایل SQLite محلی قرار دارد. این پایگاه‌داده از یک گراف پیوندی چهارلایه شامل لایه‌های معنایی (Semantic)، علی (Causal)، زمانی (Temporal) و موجودیتی (Entity) استفاده می‌کند. این ساختار پیچیده به سیستم اجازه می‌دهد تا معنا، کلمات کلیدی و نام‌ها را برای بازیابی با دقت بسیار بالا ترکیب کند.

بر اساس مستندات فنی، زمان بازیابی در فایلی که حاوی حدود ۲۳۰۰ خاطره است، در حد تک‌رقمی میلی‌ثانیه است. سیستم اکنون قادر است جملات تک‌خطی را به‌طور مجزا امتیازدهی کند؛ به این معنا که می‌تواند یک پاسخ کوتاه و خاص را که در میان یک بلوک حافظه بزرگ‌تر دفن شده است، پیدا کند.

برخلاف بسیاری از سیستم‌های تولید بازیابی‌افزا (RAG) — شبیه دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند و از آن نقل می‌آورد — که داده‌های متناقض را ادغام یا پنهان می‌کنند، VEKTOR 2.0 تضادها را علامت‌گذاری می‌کند. وقتی دو خاطره مقادیر متفاوتی برای یک موجودیت واحد ارائه می‌دهند، نرم‌افزار آن‌ها را لیست کرده و گزینه‌های «جایگزینی» (Replace) و «بازگشت» (Undo) را نمایش می‌دهد. اگر یک حقیقت با کلمات بسیار متفاوتی بازگو شود، برای جلوگیری از فساد خاموش داده‌ها، برای بررسی دستی علامت‌گذاری می‌شود. در این سیستم، هیچ چیز بدون اطلاع کاربر ادغام یا پنهان نمی‌شود.

برای کاهش نشت داده‌ها به ابر، VEKTOR 2.0 چندین مدل محلی را ادغام کرده است:

• Whisper: تبدیل گفتار به متن را به‌صورت محلی روی ماشین کاربر انجام می‌دهد.
• Kokoro: مدیریت توابع خواندن متن با صدای بلند (Read-aloud).
• Silero: یک مدل کوچک تشخیص صدا (حدود ۱۴ مگابایت) که در مرورگر اجرا می‌شود تا صدای انسان را از نویزهای محیطی مثل سرفه یا صدای بسته شدن درها تشخیص دهد.

در پردازش تصویر، سیستم ابتدا سعی می‌کند از ارائه‌دهنده انتخابی کاربر استفاده کند، سپس به یک مدل محلی با قابلیت پردازش تصویر روی می‌آورد و در نهایت کلیدهای ابری دیگر را امتحان می‌کند. اگر یک کلید با خطا مواجه شود، سیستم برای بهینه‌سازی عملکرد، ۱۵ دقیقه آن را نادیده می‌گیرد.

دستیار به‌روزرسانی‌شده که Vek نام دارد، حالت «صدای زنده» (Live voice) را معرفی کرده است که دارای تشخیص نوبت گفتگو، قابلیت قطع کردن (Interruption) و یک تشخیص‌دهنده صدا است که نویزهای پس‌زمینه را نادیده می‌گیرد. کاربران اکنون می‌توانند دوربین یا صفحه نمایش خود را از طریق قابلیت Look (که در حال حاضر در نسخه بتای زنده است) با Vek به اشتراک بگذارند، هرچند نرم‌افزار تضمین می‌کند این تصاویر هرگز ذخیره نمی‌شوند.

جزئیات رابط کاربری Vek شامل موارد زیر است:

• مرکز کنترل: چهار دکمه زیر کادر پرسش که دسترسی سریع به حالت Live، دوربین (Camera)، صفحه (Screen) و چت (Chat) را فراهم می‌کند.
• کارت‌های Vek: رابط کاربری از چک‌لیست‌ها، راهنمای گام‌به‌گام، کاشی‌های گزینه‌ای و لیست‌های شماره‌دار استفاده می‌کند که شامل آیکون‌ها، تصاویر آپلود شده توسط کاربر، عکس‌های اختیاری ویکی‌پدیا و نمودارهای کوچک است.
• یکپارچگی با کتابخانه: Vek می‌تواند کتاب‌های کتابخانه را بر اساس عنوان، در یک فصل خاص یا یک صفحه مشخص باز کند. همچنین از ۱۷ قالب آماده بر اساس نام پشتیبانی می‌کند.
• آگاهی از زمینه: Vek صفحه‌ای را که کاربر در حال مطالعه است می‌خواند و بر اساس آن محتوا به سوالات پاسخ می‌دهد.
• ارتباطات: Vek می‌تواند ایمیل‌ها را از آدرس خودش ارسال کند، اما تنها پس از دریافت تأیید صریح کاربر برای هر ارسال به صورت جداگانه. همچنین از یک صندوق پستی اختیاری «فقط خواندنی» برای فرستندگانی که مورد اعتماد هستند و یکپارچگی با تلگرام برای دسترسی موبایلی پشتیبانی می‌کند.
• شخصی‌سازی: کاربران می‌توانند از میان ۸ نماد (Mascot) با صداها و حرکات منحصربه‌فرد یکی را انتخاب کنند: ربات، یک گوی تخت (با انتخابگر رنگ)، گوی شیشه‌ای با خطوط اسیلوسکوپ، ابر (Cloud)، VEK 9000، روح (Ghost)، گیم‌پد (Game pad) و گوی جادویی ۸ (Magic 8 Ball).

VEKTOR 2.0 از طریق سیستم‌های «پروژه‌ها» و «محرک‌ها» (Triggers) از یک رابط چت ساده به یک ابزار تجاری تبدیل شده است. کاربران می‌توانند اهدافی را با گام‌هایی تعریف کنند که Vek می‌تواند آن‌ها را پیشنهاد دهد (با برچسب "Vek's") و سیستم یک لیست از «تصمیمات» را همراه با تاریخ ثبت برای قابلیت حسابرسی (Auditability) نگه می‌دارد.

ابزارهای بهره‌وری و گردش‌کار این نسخه عبارت‌اند از:

• پروژه‌ها: شامل یک هدف، یادداشت‌های جاری و نتیجه هر اجرا است، به‌طوری که آخرین برنامه برای اجرای بعدی مجدداً استفاده می‌شود.
• سازماندهی: یک تب «ایده‌ها» برای قابلیت‌های فعلی، یک تب «Inbox» برای تبدیل لیست‌های چسبانده شده (Pasted) به تسک، و «دستورالعمل‌ها» (Recipes) برای اعمال ثابت اصلاحات کد شناخته شده.
• محرک‌ها: گردش‌کارها را می‌توان بر اساس زمان‌بندی، تغییر فایل‌ها در یک پوشه، ثبت یک commit در git یا شکست خوردن یک اجرای CI اجرا کرد.
• مدیریت: کاربران می‌توانند در حین کار، مسیر اجرا را هدایت کنند و تاریخ‌های سررسید تسک‌ها، یادآورها و لیست‌های To-do را از طریق رابط Desk مدیریت کنند.
• همراهان (Companions): صفحات اختصاصی برای Via، Vek-Sync، Prov و Vex که هر کدام پیش‌نمایشی را قبل از هر اقدام ارائه می‌دهند.
• Flowire: ابزاری که یک فایل را باز کرده و تمام فایل‌های دیگری که یک تغییر در آن فایل بر آن‌ها اثر می‌گذارد را هایلایت می‌کند.

برای جلسات، قابلیت Jot اجازه ضبط میکروفون‌ها (شامل طرف مقابل تماس) یا وارد کردن فایل‌های صوتی را می‌دهد. این ابزار نسخه‌های متنی زمان‌بندی‌شده را همراه با نام‌ها و یادداشت‌ها بر اساس ۶ قالب تولید می‌کند: خلاصه جلسه، استند-آپ، تماس مشتری، مصاحبه، طوفان فکری و سخنرانی. قابلیت «اتصال به تقویم» (Calendar join) فایل‌های .ics را می‌خواند تا عنوان جلسات و دعوت‌کنندگان را پر کند، در حالی که دکمه Remember اجازه می‌دهد یادداشت‌ها به‌صورت دستی در حافظه ذخیره شوند.

در بخش مطالعه، PDFها در همان محیط کتاب‌ها باز می‌شوند و دارای متن قابل انتخاب، هایلایت، زوم و قابلیت جست‌وجو هستند. کتابخانه شامل یک بسته شروع با ۱۴ فایل مرجع، یک دکمه ایندکس برای فایل‌های جدید و گزینه بازسازی کامل (Full rebuild) است. ابزار Convert نیز ۸۱ نوع تبدیل مختلف و یک راهنمای داخلی ۶۳ فصلی را ارائه می‌دهد.

برای ایجاد اعتماد، تیمی از توسعه‌دهندگان یک لاگ عملیاتی جامع پیاده کرده‌اند. این لاگ هر چیزی را که VEKTOR اجرا کرده، هر چه درباره آن پرسیده و هر آنچه را که بر اساس قوانین داخلی از انجامش منع شده، ثبت می‌کند. یک کلید اصلی به کاربران اجازه می‌دهد تمام پیام‌های خارجی، از جمله تلگرام و ایمیل را متوقف کنند.

امنیت با یک سرور محلی تقویت شده که پنجره خود را با سیاست امنیتی محتوا (CSP) قفل می‌کند و منشأ هر درخواست را تأیید می‌کند. هر نسخه قبل از انتشار باید از یک گیت ۶۳-مرحله‌ای عبور کند و با داده‌های واقعی به‌صورت End-to-End آزمایش شود. برای ایمنی، اگر کاربر درباره آسیب به خود بنویسد، سیستم به‌جای اجرای coaching، یک پیام ایمنی نمایش می‌دهد.

توسعه‌دهندگان نسخه ۲.۰ را مانند یک تیم مسابقه اتومبیل‌رانی که در حال بهینه‌سازی یک دور (Lap) است، تنظیم کرده‌اند. آن‌ها پنل‌ها را برای اشتراک‌گذاری کپی‌ها بهینه کردند و بارگذاری صفحه‌بندی شده (Paginated loading) را برای لیست‌های طولانی پیاده کردند. در تست‌های داخلی، کتابخانه‌ای شامل ۱۴۰۰ کتاب و ۲۳۷ هزار قطعه متنی، صفحه تنظیمات خود را در حدود ۲ ثانیه باز کرد.

با این حال، تیم پذیرفته است که استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند، مثل خودِ آشپزی و نه دوره‌ی آموزش آشپزی — از طریق Ollama همچنان کندترین حلقه زنجیر است. این چالش در مدیریت حافظه مدل‌ها با مفاهیمی چون KV-Cache مرتبط است که بهینه‌سازی‌های پیشرفته‌ای مانند PagedAttention برای رفع گلوگاه‌های حافظه در مدل‌های زبانی ارائه داده‌اند. به‌روزرسانی‌های نسخه ۲.۱ بر مدل‌های کوچک‌تر، رمزگشایی گمانه‌زنانه (Speculative decoding) و مسیریابی هوشمندتر بین مدل‌های محلی و ابری برای کاهش تأخیر (Latency) تمرکز خواهد کرد. سایر ویژگی‌های برنامه‌ریزی شده برای ۲.۱ شامل اتوماسیون کروم و کنترل‌های سازمانی است.

در نهایت، VEKTOR 2.0 ابزارهای سبک‌وزنی برای استراحت کاربران اضافه کرده است. Game pad یک بازی دانستنی با ۸ موضوع، ۳ سطح و ۲۰ سوال ارائه می‌دهد که توسط مدل خود کاربر تولید شده و دارای تایمر، امتیاز استریک و افکت‌های جشن (Confetti) است. همچنین یک گوی جادویی ۸ (Magic 8 Ball) وجود دارد که از یک تاس ۲۰ وجهی واقعی برای قرعه‌کشی عادلانه ۲۰ پاسخ کلاسیک استفاده می‌کند. نمادهایی مثل Ghost، Cloud و VEK 9000 نیز جملات طنزآمیز خاص خود را دارند.

این چرخش به سمت حافظه محلی، این فرض را که عامل‌های هوش مصنوعی برای قدرتمند بودن باید ابری باشند، به چالش می‌کشد. این رویکرد در راستای تلاش‌های گسترده‌تری است که حتی غول‌هایی مانند گوگل نیز برای ایجاد حافظه دائمی AI از طریق کلیدهای محلی و بدون دسترسی مستقیم به داده‌ها دنبال می‌کنند. با انتقال «مغز» (گراف حافظه) به لبه، VEKTOR ثابت کرد که یک تیم کوچک می‌تواند بدون نیاز به مزرعه‌های عظیم GPU، نرم‌افزاری جدی با ترکیبی از مدل‌های باز و بسته بسازد. در همین راستا، مدل‌های محلی VEKTOR توانسته‌اند در قابلیت‌های ابزار-فراخوانی (Tool-calling) به سطح مدل‌های ابری برسند.

برای کاربر، این یعنی هوش مصنوعی به‌جای یک سرویس اجاره‌ای، به یک دارایی شخصی تبدیل می‌شود. شما مالک فایل هستید، دسترسی‌ها را کنترل می‌کنید و تصمیم می‌گیرید چه زمانی یک پرامپت سخت‌افزار شما را ترک کند.

گام بعدی شما

• اگر داده‌های حساس تجاری دارید، استقرار یک مدل محلی از طریق Ollama و اتصال آن به لایه حافظه VEKTOR را امتحان کنید.
• قابلیت Flowire را برای تحلیل وابستگی‌های کد در پروژه‌های بزرگ بررسی کنید.
• برای جلسات کاری، از قالب‌های Jot برای تبدیل سریع صوت به یادداشت‌های ساختاریافته استفاده کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.