چطور مدل‌های زبانی دلیل انتخاب توصیه‌ها را توضیح می‌دهند؟

تصور کنید در یک فروشگاه آنلاین هستید و سیستمی به شما محصولی را پیشنهاد می‌دهد، اما نمی‌گوید چرا. این فقدان شفافیت در سیستم‌های توصیه‌گر مدرن، باعث می‌شود کاربران به نتایج شک کنند یا آن‌ها را نادیده بگیرند.

برای حل این مشکل، مهندسان به سراغ معماری‌های ترکیبی رفته‌اند. در این رویکرد، فیلترینگ مشارکتی (Collaborative Filtering) — که شبیه به پرس‌وجو از سلیقهٔ جمعیِ افرادی است که مشابه شما فکر می‌کنند — برای شناسایی الگوهای رفتاری در حجم عظیم داده‌ها استفاده می‌شود. سپس، قدرت استدلال مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — برای رتبه‌بندی و توضیح این توصیه‌ها به کار گرفته می‌شود.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت و شفافیت مدل‌های زبانی اشاره کردیم، حذف حالت «جعبه سیاه» در هوش مصنوعی، کلید پذیرش گسترده‌تر این فناوری است.

طبق مستندات فنی این معماری، فرآیند با لایهٔ فیلترینگ مشارکتی آغاز می‌شود. این مرحله مانند یک فیلتر با بازدهی بالا عمل می‌کند تا هزاران آیتم احتمالی را به گروه کوچکی از کاندیداهای با احتمال بالا محدود کند. سیستم با استفاده از یک ماتریس رتبه‌بندی، شباهت کسینوسی (Cosine Similarity) بین کاربران را محاسبه می‌کند تا «همسایگان سلیقه‌ای» را بیابد. برای کاربر هدف، سیستم مشابه‌ترین افراد را شناسایی کرده و آیتم‌هایی را بازیابی می‌کند که آن همسایگان امتیاز بالایی داده‌اند اما کاربر هدف هنوز با آن‌ها برخورد نکرده است. این رویکرد ریاضی تضمین می‌کند که کاندیدها بر اساس داده‌های رفتاری واقعی باشند و از توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد — جلوگیری شود.

پس از تشکیل استخر کاندیدها، مدل زبانی برای مرحلهٔ رتبه‌بندی و توضیح وارد عمل می‌شود. فیلترینگ مشارکتی در یافتن «چه چیزی» توصیه شود عالی است، اما نمی‌تواند بگوید «چرا». با ارسال لیست کاندیدها، تاریخچه کاربر و پروفایل کاربران مشابه به یک مدل زبانی از طریق APIهایی مانند Oxlo.ai، سیستم می‌تواند یک توجیه شخصی‌سازی‌شده بسازد. برای مثال، به‌جای پیشنهاد سادهٔ فیلم Inception، مدل توضیح می‌دهد: «از آنجایی که شما از فیلم The Matrix لذت بردید و کاربرانی با سلیقه مشابه شما، Inception را به‌دلیل روایت پیچیده و مضامین علمی-تخیلی دوست داشتند، معتقدیم شما هم از این فیلم لذت خواهید برد.»

پیاده‌سازی این گردش‌کار به ابزارهای زیر نیاز دارد:

• پایتون ۳.۱۰ به بالا
• SDK شرکت OpenAI برای تعامل با مدل زبانی
• کتابخانه‌های pandas و scikit-learn برای عملیات ماتریسی

خط لوله فنی شامل سه گام است: محاسبه ماتریس شباهت، بازیابی N کاندید برتر بر اساس امتیازات وزنی و در نهایت، پرامپت‌نویسی برای مدل زبانی جهت رتبه‌بندی کاندیدها بر اساس یک شخصیت (Persona) یا معیارهای خاص. این روش هزینه استنتاج (Inference) — یعنی لحظه‌ای که مدل واقعاً جواب تولید می‌کند — را به‌شدت کاهش می‌دهد، زیرا مدل به‌جای کل کاتالوگ، تنها با تعداد محدودی کاندید سر و کار دارد.

به گزارش تحلیلگران این حوزه، یکی از مزایای اصلی این معماری، حذف نیاز به آموزش یک مدل یادگیری عمیق اختصاصی برای رتبه‌بندی است. توسعه‌دهندگان می‌توانند با تغییر ساده در پرامپت، بخش «استدلال» توصیه‌ها را بهینه‌سازی کنند. این انعطاف‌پذیری باعث می‌شود امتیازات عددی سرد به توصیه‌های متقاعدکننده تبدیل شوند و اعتماد کاربر از طریق ارائه استدلال‌های مبتنی بر داده افزایش یابد.

گام بعدی شما

• اگر سیستم توصیه‌گری دارید، لایهٔ رتبه‌بندی را از مدل‌های عددی به مدل‌های زبانی کوچکتر (SLM) منتقل کنید تا قابلیت توضیح‌پذیری اضافه شود.
• برای کاهش هزینه، ابتدا از الگوریتم‌های سریع مانند Cosine Similarity برای کاهش فضای جست‌وجو استفاده کنید.
• پرامپت‌های مدل زبانی را به‌گونه‌ای تنظیم کنید که مستقیماً به تاریخچه کاربر ارجاع دهد تا حس شخصی‌سازی تقویت شود.

اما چالش اصلی در این مسیر، مدیریت حافظه در مقیاس میلیون‌ها کاربر است — به بررسی ما درباره‌ی پایگاه‌داده‌های برداری مراجعه کنید.