تصور کنید یک سیستم هوش مصنوعی محلی دقیقاً سند درست را پیدا می‌کند، اما در لحظهٔ پاسخ دادن، حقیقتی را تغییر می‌دهد یا جزئیاتی از خودش می‌سازد. MyZubster با جداسازی کامل «بازیابی» از «حقیقت»، به دنبال حل این نقص بنیادین در معماری‌های RAG است تا تضمین کند داده‌های مرجع به‌جای «بهبود» یا بازنویسی توسط یک مدل زبانی، دقیقاً به صورت کلمه به کلمه (Verbatim) بازگردانده شوند.
بیشتر سامانه‌های هوش مصنوعی مدرن بر اساس مرحلهٔ نهایی، یعنی تولید متن (Generation)، طراحی شده‌اند. آن‌ها فصاحت و شیوایی پاسخ را به مستند بودن و grounded بودن آن ترجیح می‌دهند. این رویکرد اغلب منجر به سناریویی می‌شود که در آن مدل، منبع درستی را دریافت می‌کند اما در مرحلهٔ ترکیب و سنتز اطلاعات، ادعاهای بدون پشتوانه اضافه می‌کند؛ در واقع مدل در بستر داده‌های واقعی، دچار توهم (Hallucination) می‌شود. این چالش‌ها در حوزه‌های تخصصی‌تر مانند برنامه‌نویسی نیز مشهود است، جایی که بازیابی کامل اسناد توانسته است صحت پاسخ‌های کدنویسی را تا ۸ برابر افزایش دهد و اهمیت دسترسی دقیق به منبع را بیش از پیش روشن کند.
زمینه: از کمیک تا کد
این پروژه نه با کدنویسی، بلکه با یک کمیک اثر N4K48 آغاز شد. این پانل‌های بصری سفری را به تصویر می‌کشیدند: ایده‌ای نرم‌افزاری که شکل می‌گیرد و مسیر ورود خود به متاورس MyZubster را تصور می‌کند. این تصاویر اسکرین‌شات‌هایی از یک محصول نهایی یا مدرکی برای اثبات یک پلتفرم غیرمتمرکز نبودند، بلکه بازنمایی یک چشم‌انداز و رؤیا بودند.
هدف تیم این بود که این روایت بصری را به نرم‌افزاری قابل راستی‌آزمایی تبدیل کند. آن‌ها با یک پرسش ساده شروع کردند: یک سیستم هوش مصنوعی چگونه می‌تواند تفاوت بین چیزی که واقعاً ثبت شده با چیزی که فقط «متقاعدکننده به نظر می‌رسد» را تشخیص دهد؟ پاسخ آن‌ها این شد: شروع با شواهد.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، اعتماد کورکورانه به خروجی مدل‌های زبانی بزرگ ریسک‌های عملیاتی زیادی دارد. طبق یک گزارش فنی منتشر شده در ۳ اکتبر ۲۰۲۶، تیم MyZubster دریافت که حتی مدل‌های محلی کوچک نیز تمایل دارند توصیفات ساده را بازنویسی کنند. برای مثال، یک مشاهدهٔ واقعی با برچسب "Test reale MyZubster RC2 - N4K48" و شناسه ۲۱۰۸۹۷۷۱b۲a۷۳a۹f، اغلب توسط هوش مصنوعی به پاسخی طولانی‌تر تبدیل می‌شد که حاوی ادعاهایی بود که هرگز در منبع اصلی وجود نداشتند.
معماری قطعی (Deterministic)
برای حل این مشکل، MyZubster سلسله‌مراتبی خاص از بازیابی را پیاده کرد که در صورت شناسایی یک حقیقت، لایهٔ مدل زبانی بزرگ (LLM) را به‌طور کامل دور می‌زند. این سیستم اکنون از قوانین سخت‌گیرانه‌ای پیروی می‌کند:
- اولویت شناسه دقیق: اگر درخواست کاربر حاوی یک شناسه مشاهدهٔ (Observation ID) معتبر باشد، سیستم رکورد دقیق را به شباهت معنایی ترجیح می‌دهد.
- رد ایمن: اگر شناسه‌ای معتبر به نظر برسد اما در پایگاه‌داده موجود نباشد، سیستم به‌جای اینکه در سکوت به دنبال یک جایگزین بگردد، صراحتاً پاسخ می‌دهد: "Informazione non disponibile nelle fonti MyZubster" (اطلاعات در منابع MyZubster موجود نیست).
- بازگشت عین عبارت: وقتی کاربر توصیف خاصی را می‌خواهد، سیستم لایه تولید را حذف کرده و شواهد را دقیقاً همان‌طور که ذخیره شده‌اند بازمی‌گرداند. برای مثال در مورد "Test reale MyZubster RC2 - N4K48"، نتیجه دقیقاً همان‌طور که هست بازگردانده می‌شود؛ بدون هیچ افزودنی، بهبود یا اختراع.
این معماری تضمین می‌کند که نبودِ شواهد، دیگر به معنای اجازه برای تولید یک جایگزین متقاعدکننده نیست. هوش مصنوعی تنها در جایی به کار می‌رود که تفسیر و ترکیب داده‌ها واقعاً لازم باشد، نه به‌عنوان یک واسطهٔ اجباری برای هر تکه داده ذخیره شده.
پشتهٔ فنی و جریان داده
نمونهٔ اولیهٔ فعلی برای حفظ این زنجیرهٔ شواهد، از مسیر مشخصی عبور می‌کند: کاربر $\rightarrow$ Open WebUI $\rightarrow$ API سازگار با OpenAI MyZubster $\rightarrow$ مسیرهای شواهد قطعی/بازیابی $\rightarrow$ Qdrant $\rightarrow$ شواهد MyZubster $\rightarrow$ Ollama (تنها در صورت نیاز واقعی به تولید متن) $\rightarrow$ پاسخ.
اجزای کلیدی این سیستم عبارت‌اند از:
- Open WebUI: رابط کاربری که از
myzubster-ragبه‌عنوان یک مدل از طریق API سازگار با OpenAI استفاده می‌کند. - Qdrant: لایه‌ای که جست‌وجوی معنایی (Semantic Retrieval) را فراهم می‌کند.
- Ollama: مسئول استنتاج (Inference) محلی است.
- لایه RAG: متصل‌کنندهٔ پرسش‌ها، منابع بازیابی‌شده و مرحله تولید.
تیم در حین آزمایش متوجه شد که داده‌های ذخیره‌شده و داده‌های قابل جست‌وجو به‌طور خودکار یکسان نیستند. در یک مورد، مشاهده‌ای در حافظه دائمی وجود داشت اما در Qdrant غایب بود. برای رفع این مشکل، آن‌ها یک مکانیزم صریح «بازیابی شاخص مشاهده» (observation-index recovery) اضافه کردند که قادر است ایندکس جست‌وجو را از روی مشاهدات ذخیره‌شده بازسازی کند.
حرکت به سوی غیرمتمرکزسازی
این رویکرد «اول شواهد»، زیربنای غیرمتمرکزسازی آینده است. توسعه‌دهندگان استدلال می‌کنند که یک ورودی در پایگاه‌داده به‌طور خودکار شواهد غیرمتمرکز نیست، و همچنین یک رویداد ثبت شده دیجیتالی به‌طور خودکار یک رویداد بلاک‌چین محسوب نمی‌شود. MyZubster صرفاً با استفاده از هوش مصنوعی محلی، هش‌ها یا یک دفتر کل داخلی، غیرمتمرکز نمی‌شود.
غیرمتمرکزسازی واقعی نیازمند «منشأ» (Provenance) است؛ یعنی بدانیم دقیقاً چه چیزی تأیید شده است، پیش از آنکه توزیع شود. غیرمتمرکزسازی بدون منشأ می‌تواند صرفاً باعث توزیع عدم‌قطعیت شود. با ساخت لایه شواهد در ابتدا، MyZubster قصد دارد از مرز اعتماد به یک اپلیکیشن واحد فراتر رود.
هدف نهایی استفاده از هش‌ها، منشأ، شناسه‌ها، گواهی‌ها (Attestations) و رکوردهای قابل تأیید خارجی است. این امر به کاربران اجازه می‌دهد تا فردا شواهد را بررسی کنند، بدون اینکه امروز مجبور باشند کورکورانه به خودِ MyZubster اعتماد کنند.
مهندسی «تاریخ تغییرات»
گذار از یک چشم‌انداز مفهومی به نرم‌افزار قابل تأیید در تاریخ کامیت‌های اخیر پروژه مشهود است. تیم روی توالی مشخصی از اصلاحات تمرکز کرد:
16f0800: fix: add observation index recovery (اصلاح: اضافه کردن بازیابی شاخص مشاهده)d1aa48f: fix: prefer exact observation ID retrieval (اصلاح: اولویت دادن به بازیابی شناسه دقیق مشاهده)8106276: fix: reject unknown observation IDs safely (اصلاح: رد ایمن شناسه‌های ناشناخته)87a1021: fix: return authoritative descriptions verbatim (اصلاح: بازگرداندن عین توصیفات مرجع)
این توالی، ابهام را در هر مرحله حذف می‌کند. گردش کار نهایی به این شکل است: مشاهده $\rightarrow$ ثبت $\rightarrow$ حفظ $\rightarrow$ بازیابی $\rightarrow$ تأیید $\rightarrow$ تولید (تنها در صورت نیاز).
این تغییر، نقش هوش مصنوعی را عوض می‌کند. به‌جای اینکه واسطه‌ای اجباری بین کاربر و داده باشد، به ابزاری برای تفسیر و سنتز تبدیل می‌شود که تنها زمانی استفاده می‌شود که نرم‌افزار حقیقت دقیق را نمی‌داند. برای توسعه‌دهندگان، این یعنی فاصله گرفتن از ذهنیت مهندسی پرامپت (Prompt Engineering) و حرکت به سمت ذهنیت «منشأ داده». ارزش دیگر در نحوه بیان پاسخ توسط AI نیست، بلکه در توانایی اثبات منبع پاسخ و امکان بازیابی مستقل آن شواهد است.
مسیرهای آینده
هدف غایی، ساخت هوش مصنوعی‌ای نیست که به نظر برسد همه چیز را می‌داند، بلکه سیستمی است که قادر باشد تفاوت بین آنچه مشاهده شده، ثبت شده، بازیابی شده، تأیید شده و تولید شده است را تشخیص دهد.
چالش‌ها همچنان باقی است. پرسش‌های معنایی کلی هنوز ممکن است بسترهای نسبتاً مرتبطی را بازیابی کنند و مدل‌های محلی کوچک همچنان ممکن است چیزهایی را استنتاج کنند که در شواهد وجود ندارد. با این حال، مسیر روشن است: از کمیک به شواهد، از شواهد به نرم‌افزار، از نرم‌افزار به تأیید، و از تأیید به سوی غیرمتمرکزسازی. هر گام باید شواهدی از خود به جای بگذارد.
گام بعدی شما
- اگر از سیستم‌های RAG استفاده می‌کنید، بررسی کنید چه مقدار از پاسخ‌های مدل شما بازنویسی‌های غیرضروری از اسناد مرجع هستند.
- برای داده‌های حساس، مسیرهای بازیابی مبتنی بر شناسه (ID-based) را جایگزین جست‌وجوی صرفاً معنایی کنید.
- ساختار «تأیید پیش از تولید» را در گردش‌کارهای خود پیاده کنید تا نرخ توهمات کاهش یابد.
اما چالش‌های مدل‌های محلی در استنتاج‌های پیچیده همچنان باقی است — به تحلیل ما درباره‌ی بهینه‌سازی مدل‌های کوچک در لبه مراجعه کنید.
گفتگو