تصور کنید یک دستیار هوش مصنوعی دارید که به‌جای حدس زدن یا اختراع پاسخ، با اعتمادبه‌نفس کامل می‌گوید: «من این اطلاعات را ندارم». این دقیقاً همان نقطه‌ای است که اکثر برنامه‌نویسان در پیاده‌سازی سامانه‌های دانش داخلی به دنبال آن هستند.
به گزارش Valentius Kryptix در ۸ اکتبر ۲۰۲۶، یک توسعه‌دهنده سیستمی را عرضه کرده است که یکی از بزرگ‌ترین نقاط ضعف هوش مصنوعی زاینده (Generative AI) — یعنی تمایل به پاسخ دادن حتی در نبود داده‌های کافی — را حل کرده است. این دستیار تنها به محتوای یک فایل PDF از یادداشت‌های یادگیری ماشین متکی است و به‌طور قاطع از پاسخ به پرسش‌های خارج از این محدوده، مثل پایتخت فرانسه، خودداری می‌کند.
بسیاری از سامانه‌های تولید بازیابی‌افزا (RAG) — شبیه دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند و از آن نقل می‌آورد — با مشکل توهم (Hallucination) روبرو هستند؛ یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند. این اتفاق معمولاً به دلیل کیفیت پایین بازیابی داده‌ها یا پرامپت‌های بیش از حد منعطفی رخ می‌دهد که مدل را تشویق می‌کنند به‌قیمت دقت، «مفید» باشد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، کنترل خروجی مدل‌ها کلید تبدیل یک اسباب‌بازی به یک ابزار صنعتی است. برای رسیدن به این هدف، توسعه‌دهنده این پروژه یک خط لوله فنی دقیق را پیاده کرده است:
- تکه‌بندی (Chunking): متن PDF به قطعات ۸۰۰ کاراکتری با هم‌پوشانی‌های کوچک تقسیم شده تا زمینه متن حفظ شود.
- اندکس‌گذاری: یک مدل بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که می‌گوید این کلمه همسایه‌ی چه کلمات دیگری است — متن را به بردار تبدیل کرده و در FAISS ذخیره می‌کند.
- بازیابی (Retrieval): سیستم چهار قطعه متنی که بیشترین شباهت را به پرسش کاربر دارند، استخراج می‌کند. این رویکرد برای تبدیل مدل‌های عمومی به متخصصان حوزه‌های خاص مشابه است با آنچه در به‌کارگیری پروتکل MCP برای تبدیل عامل‌های هوشمند به متخصصان SEO مشاهده کردیم.
- تولید: این قطعات از طریق API شرکت Groq به یک مدل زبانی بزرگ (LLM) — شبیه کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — ارسال می‌شوند، در حالی که دستورات سخت‌گیرانه‌ای برای پاسخ دادن «فقط بر اساس متن ارسالی» دریافت کرده است.
این سیستم در پس‌زمینه از FastAPI استفاده می‌کند و روی پلتفرم Render مستقر شده است. طبق اعلام توسعه‌دهنده، تنظیم دقیق «آستانه شباهت» (Similarity Threshold) اصلی‌ترین عامل در موفقیت اپلیکیشن برای رد کردن پرسش‌های نامرتبط بوده است.
برای یک توسعه‌دهنده، این رویکرد ثابت می‌کند که مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — یک ویژگی محصول است، نه فقط یک تغییر جزئی. با اجبار مدل به ارائه خروجی در قالب JSON (شامل یک پرچم «پاسخ‌دهنی» و شماره منابع)، یک حدس احتمالی به یک ارجاع قابل بررسی تبدیل شده است.
گام بعدی شما
- اگر از RAG استفاده می‌کنید، به‌جای تکیه بر دستورات متنی، خروجی مدل را به فرمت JSON محدود کنید تا وضعیت «پاسخ‌دهنی» را به‌صورت منطقی (Boolean) دریافت کنید.
- آستانه شباهت (Similarity Threshold) را در پایگاه‌داده برداری خود آزمایش کنید تا نقطه بهینه بین «دقت» و «پوشش» بیابید.
- از مدل‌های سریع‌تر مثل Groq برای کاهش تأخیر در استنتاج استفاده کنید تا تجربه کاربر بهبود یابد.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو