«تزریق مستقیم ارقام»؛ استراتژی جدید برای حذف خطای مدل‌های زبانی

تصور کنید یک عدد اشتباه اما با اعتمادبه‌نفس کامل در یک گزارش مالی ظاهر شود؛ این بدترین سناریوی ممکن و بحرانی‌ترین حالت شکست برای هر ابزار تحلیل مالی مبتنی بر هوش مصنوعی است. این پدیده دقیقاً همان جایی است که فریب‌های روانی در خروجی‌های مدل‌ها منجر به ایجاد شکاف‌های عملیاتی خطرناک می‌شوند. برای حذف این ریسک، Stock Expert AI یک قانون سخت‌گیرانه در معماری خود پیاده کرده است: مدل زبانی هرگز اجازه تولید عدد را ندارد.

این رویکرد در حالی می‌آید که بسیاری از شرکت‌ها با ماهیت آماری و احتمالی مدل‌های زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — دست‌وپنجه نرم می‌کنند. در حالی که اکثر توسعه‌دهندگان سعی می‌کنند با مهندسی پرامپت (Prompt Engineering) — یعنی هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — یا استفاده از تولید بازیابی‌افزا (RAG) — شبیه دانش‌آموزی که قبل از جواب دادن، اول کتاب را باز می‌کند — توهمات را کم کنند، تیم Stock Expert AI تصمیم گرفت توانایی مدل در مدیریت اعداد را به‌طور کامل سلب کند.

به گزارش مستندات فنی این پلتفرم، این سیستم شبیه صفحه‌ای از اخبار است که در آن هوش مصنوعی نویسنده است اما حسابدار نیست. روایت را هوش مصنوعی می‌سازد، اما ارقام دقیق از یک منبع مورد اعتماد تزریق می‌شوند تا هیچ «عددِ به‌ظاهر درست اما غلطی» به کاربر نرسد. این سامانه بیش از ۲۱,۰۰۰ سهم بازار آمریکا را بر اساس پنج رکن کیفیت، ایمنی، ارزش‌گذاری، رشد و تکانه (Momentum) در مقیاس ۰ تا ۱۰۰ امتیازدهی می‌کند که این امتیاز تحت عنوان MoonshotScore شناخته می‌شود.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، حذف نقاط ضعف ساختاری مؤثرتر از وصله کردن آن‌هاست. در اینجا نیز معماری دوکاناله دقیقاً همین کار را می‌کند:

• کانال داده: مقادیر مستقیماً از Financial Modeling Prep (FMP) دریافت و با کد استاندارد رندر می‌شوند. هیچ مدل هوش مصنوعی بین پاسخ API تأمین‌کننده و پیکسل‌های نهایی روی صفحه قرار ندارد.
• کانال تفسیری: این بخش شامل متونی است که مدل می‌نویسد تا داده‌ها را توضیح دهد، به آن‌ها زمینه ببخشد و نقاط داده را به هم متصل کند.

با این تفکیک، چالش مهندسی از یک پرسش آماری («آیا مدل دقیق است؟») به یک پرسش مکانیکی تبدیل می‌شود: «آیا عددی از کانال تفسیری به صفحه نشت کرده است؟». مدل ممکن است در لحن یا تأکید اشتباه کند، اما نمی‌تواند در نمایش ارقام خطا داشته باشد چون صفحه به‌سادگی ارقام را از مدل دریافت نمی‌کند.

خط لوله ژورنال و دروازه عددی

برای بخش اخبار (ژورنال)، این تیم از یک خط لوله سخت‌گیرانه استفاده می‌کند تا از نفوذ اعداد به متن جلوگیری کند. طبق اعلام سازندگان، داستان‌ها توسط هوش مصنوعی انتخاب نمی‌شوند، بلکه توسط داده‌های FMP تحریک می‌شوند؛ مواردی مانند تقویم‌های سوددهی، تم‌های بخشی یا نمادهایی که در دو جلسه معاملاتی بیشترین تحرک را داشته‌اند و کف ارزش بازار آن‌ها ۱ میلیارد دلار است. برای جلوگیری از تکرار، سیستم تضمین می‌کند که درباره یک نماد معاملاتی (Ticker) در بازه ۷ روزه دو بار ننویسد.

پس از تحریک داستان، سیستم یک «بسته حقیقت» (Fact Pack) از نقاط انتهایی FMP می‌سازد که شامل موارد زیر است:

• صورت‌های مالی و برآوردهای آینده
• رتبه‌بندی تحلیلگران و داده‌های بخش‌های مختلف شرکت
• معاملات داخلی (Insider Trades)
• متن جلسات گزارش سوددهی (Earnings-call transcripts)

سپس یک مدل میان‌رده، پیش‌نویسی را تنها با استفاده از این بسته حقیقت به عنوان منبع می‌نویسد. اما قبل از انتشار، هر پیش‌نویس باید از «دروازه عددی» (Number Gate) عبور کند. این دروازه تمام ارقام موجود در متن را استخراج کرده و آن‌ها را با استفاده از یک تلرانس گرد کردن مشخص، با داده‌های خام بسته حقیقت تطبیق می‌دهد.

برای مثال، اگر پیش‌نویس عدد «۴۶.۰۶ میلیارد دلار» را ذکر کند، دروازه بررسی می‌کند که آیا مقدار ۴۶,۰۶۱,۰۰۰,۰۰۰ در بسته حقیقت وجود دارد یا خیر. اگر متن به جای آن بنویسد «۴۷ میلیارد دلار»، پیش‌نویس رد می‌شود. تلرانس خطا از روی دقتی که نویسنده انتخاب کرده استخراج می‌شود؛ اگر پیش‌نویس دو رقم اعشار در مقیاس میلیارد نشان دهد، خطای مجاز نصف یک واحد در آخرین رقم نوشته شده است که به بالا مقیاس‌بندی می‌شود.

اعتبارسنجی با رویکرد «بستن در صورت خطا»

دروازه عددی بر اساس اصل Fail-Closed عمل می‌کند. اگر عددی توسط شواهد پشتیبانی نشود، کل پیش‌نویس برای بازنویسی بازگردانده می‌شود، نه اینکه فقط آن عدد اصلاح یا وصله شود. این یعنی دروازه نیازی به درک معنای جمله ندارد و فقط صحت رقم را می‌سنجد. برای شناسایی ارقام از Regex (عبارات منظم) استفاده می‌شود که نیازمند مراقبت دائمی در مورد فرمت‌های مختلف است.

برای شناسایی خطاهایی که Regex نمی‌بیند (مثلاً عددی درست که به بازه زمانی غلط نسبت داده شده)، یک مدل بزرگ‌تر بررسی محدودی را انجام می‌دهد. این بازبین محدود به یک چک‌لیست خاص است:

• اعداد غلط یا بازه‌های زمانی اشتباه
• نقل‌قول‌های تحریف‌شده
• توصیه‌های مالی غیرمجاز

از بازبین سؤال نمی‌شود که آیا مقاله «خوب» است یا خیر، زیرا چک‌لیست‌های محدود، ارزیابی را ساده‌تر کرده و مانع از آن می‌شود که مدل از وظیفه اصلی خود منحرف شود.

برای تضمین اعتبار دائمی، سیستم یک هش SHA-256 از متن تأییدشده و شواهد آن ذخیره می‌کند. اگر داده‌های بازار تغییر کند یا متن ویرایش شود، هش‌ها دیگر مطابقت نخواهند داشت و مقاله به‌طور خودکار از فهرست (Index) حذف می‌شود تا دوباره تأیید شود. این رویکرد در واقع نوعی امتیازدهی به اعتماد داده برای شناسایی ریسک‌های عملیاتی است که جایگزین متدهای نظارتی سنتی شده است. این یعنی اعتبارسنجی از یک اتفاق یک‌باره به یک ویژگی تبدیل شده که در هر درخواست (Request) بررسی می‌شود.

مدیریت متن‌های طولانی

متن جلسات سوددهی معمولاً برای مدل نویسنده بیش از حد طولانی است، بنابراین یک مدل ارزان ابتدا آن‌ها را خلاصه می‌کند. برای جلوگیری از اینکه مدل خلاصه‌ساز عددی را اختراع کند و نویسنده آن را تکرار کند، دروازه عددی همیشه روی متن خام و فشرده‌نشده اجرا می‌شود.

اگر خطای خلاصه‌سازی منجر به تولید عدد جعلی شود، دروازه در منبع اصلی هیچ تطابقی نمی‌یابد و پیش‌نویس را رد می‌کند. این تضمین می‌کند که هیچ مرحله‌ای از خط لوله — چه خلاصه و چه بازنویسی — نتواند توهم (Hallucination) — شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — را وارد خروجی نهایی کند. سیستم همیشه اعتبارسنجی را به نسخه اصلی و فشرده‌نشده ارجاع می‌دهد.

پشته فنی و موازنه ها

این پلتفرم بر پایه یک پشته مدرن و سبک بنا شده است:

• فرانت‌اند: React، Vite و TypeScript.
• بک‌اند: Express و TypeScript با Drizzle ORM روی Neon PostgreSQL.
• زیرساخت: Cloudflare Workers و Replit VMs.

برای خزنده‌های هوش مصنوعی، سیستم یک نسخه Markdown ساده از هر مقاله در همان URL با پسوند .md ارائه می‌دهد، در حالی که خزنده‌های انسانی HTML رندرشده در سرور را دریافت می‌کنند. هر دو نسخه به همان چکِ هش SHA-256 متصل هستند. فراخوانی مدل‌ها به‌صورت بدون سر (Headless) و با اشتراک ثابت انجام می‌شود و برای هر وظیفه ارزان‌ترین مدل مناسب انتخاب می‌شود: مدل ارزان برای خلاصه، میان‌رده برای نوشتن و مدل بزرگ برای بازبینی.

این معماری موازنه‌های خاص خود را دارد. متن‌ها اغلب ساده‌تر هستند چون مدل نمی‌تواند از مقایسه‌های زنده‌ای که نیاز به محاسبات عددی مشتق‌شده دارند استفاده کند. هر عددی که مدل خودش محاسبه کند (مثلاً نرخ رشد) به عنوان «حساب‌وکتاب ممنوعه» تلقی می‌شود و باید ابتدا در کد محاسبه و به بسته حقیقت اضافه شود.

علاوه بر این، سیستم «ردِ اشتباه» (False Rejection) را به «تأییدِ غلط» (False Approval) ترجیح می‌دهد. اگر داده‌ای در FMP موجود نباشد، حتی یک جمله درست هم از دروازه رد نمی‌شود. این موضوع توان عملیاتی (Throughput) را کاهش می‌دهد اما صحت را تضمین می‌کند. اگر تیم سازنده بخواهد دوباره شروع کند، از ابتدا یک نمایش ساختاریافته از ارقام را پیاده می‌کند و از جای‌گذارهای تگ‌دار (Tagged Placeholders) استفاده می‌کند تا کد اعداد را پر کند، به جای اینکه اعداد را دوباره از متن آزاد استخراج کند.

این طراحی ثابت می‌کند که برای داده‌های حساس، راهکار مدل‌های هوشمندتر نیست، بلکه خط لوله‌های سخت‌گیرانه‌تر است. با تبدیل اعداد به کد و متن به تفسیری، سیستم این وعده را می‌دهد: ارقام صفحه از تأمین‌کننده داده آمده‌اند، نه از هوش مصنوعی.

گام بعدی شما

• اگر در حال توسعه ابزارهای داده‌محور هستید، استراتژی «جداسازی کانال داده از کانال متن» را جایگزین تلاش برای کاهش توهمات با پرامپت کنید.
• برای اعتبارسنجی خروجی‌های مدل، از سیستم‌های Fail-Closed استفاده کنید که در صورت کوچک‌ترین عدم تطابق، کل خروجی را رد می‌کنند.
• برای تضمین صحت داده‌های پویا، از مکانیزم هشینگ (Hashing) برای پیوند دادن متن به منبع داده در لحظه درخواست استفاده کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.