درون استراتژی جدید بانک‌ها برای مدیریت حریم خصوصی با SLM

اگر امروز مدیر فناوری یک مؤسسه مالی هستید، احتمالاً متوجه شده‌اید که هزینه‌های API مدل‌های غول‌پیکر در مقیاس میلیونی، بودجه‌ی شما را می‌بلعد. حقیقت این است که برای ۸۰ درصد از کارهای روزمره، شما نیازی به یک مدل «همه-کاره» ندارید و همین موضوع در حال تغییر معماری AI در وال‌استریت است. مؤسسات خدمات مالی در حال حاضر دست از جست‌وجو برای یافتن یک مدل واحد و «کامل» برداشته‌اند. در عوض، آن‌ها در حال استقرار پشته‌های لایه‌ای (Tiered Stacks) هستند؛ جایی که مدل‌های کوچک و تنظیم‌شده برای حوزه‌های خاص، بخش عظیمی از حجم عملیات را مدیریت می‌کنند و مدل‌های پیشرو تنها برای پیچیده‌ترین موارد استثنایی (Edge Cases) به کار می‌روند.

طبق گزارش‌های صنعتی، مؤسسات مالی در حال گذار از «ماکسیمالیسم مدل‌ها» به سمت «بهینگی معماری» هستند. نقطه عطف این تحول زمانی رخ داد که گلدمن ساکس (Goldman Sachs) دستیار هوشمند خود (GS AI Assistant) را برای ۴۶ هزار کارمند فعال کرد و در بازه ۲۰۲۵ تا ۲۰۲۶، پیاده‌سازی عامل‌های بانکی خودمختار را آغاز نمود. نکته قابل توجه این است که این شرکت صرفاً بزرگ‌ترین مدل موجود در بازار را خریداری نکرد، بلکه یک پشته لایه‌ای ساخت که در آن مدل‌های کوچک ۸۰ درصد از حجم درخواست‌ها را پردازش می‌کنند.

همان‌طور که در تحلیل قبلی ما درباره‌ی توازن میان قدرت خام مدل‌ها و کیفیت خروجی (AI Slop) اشاره کردیم، این تغییر نشان‌دهنده‌ی اولویت یافتن «خط لوله‌ی بازرسی‌پذیر و مقرون‌به‌صرفه» بر «هوش مطلق» است. در دنیای بانکداری تحت نظارت، هدف تنها هوشمندی نیست، بلکه ایجاد سیستمی است که داده‌ها را به APIهای شخص ثالث نشت ندهد. برای دستیابی به این سطح از امنیت، بسیاری از سازمان‌ها از راهکارهای لایه‌ای برای کنترل نشت داده‌ها در درگاه‌های AI استفاده می‌کنند تا حریم خصوصی مشتریان تضمین شود. به همین دلیل، سؤال مرکزی که اتاق‌های هیئت‌مدیره را تسخیر کرده است — «آیا یک مدل زبانی کوچک (SLM) سفارشی بسازیم یا از LLMهای آماده استفاده کنیم؟» — تحت تأثیر قیمت‌گذاری GPT-4o شرکت OpenAI، لایه‌های سازمانی Claude شرکت Anthropic و مدل‌های با وزن‌های باز مانند Llama و Mistral است که اکنون می‌توان آن‌ها را تنها با چند هزار دلار تنظیم دقیق (Fine-tune) کرد.

اقتصاد چرخش به سمت SLM

تا ۱۶ ژوئیه ۲۰۲۶، محاسبات مالی برای AI در بانکداری به‌طور کلی تغییر کرد. تنظیم دقیق (Fine-tuning) — که شبیه به دادن تخصص پوست به یک پزشک عمومی است تا روی یک حوزه خاص دقیق شود — برای یک مدل ۸ میلیارد پارامتری با وزن‌های باز روی یک مجموعه اسناد اختصاصی، اکنون زیر ۱۰ هزار دلار هزینه دارد. این موضوع شکاف بزرگی در هزینه کل مالکیت (TCO) ایجاد کرد. مدل‌های SLM معمولاً در بازه ۱ تا ۱۵ میلیارد پارامتر تعریف می‌شوند؛ مانند Phi-3 مایکروسافت، Mistral 7B، Llama 3.1 8B یا Gemma 2. این مدل‌ها به قدری کوچک هستند که روی یک GPU یا CPU واحد اجرا شوند و به اندازه کافی خصوصی هستند که در داخل محیط ابری خصوصی (VPC) خود شرکت مستقر شوند.

هزینه استنتاج (Inference) — یعنی همان لحظه‌ی تولید جواب توسط مدل — در یک مدل SLM میزبانی‌شده، کسری از یک سنت برای هر هزار توکن است. در مقابل، APIهای پیشرو (Frontier APIs) مثل GPT-4o، Claude 3.5 یا Gemini بین ۲ تا ۵ سنت هزینه دارند. این فشار هزینه‌ای باعث شده است که شرکت‌هایی مثل OpenAI بر روی توسعه سخت‌افزارهای اختصاصی برای کاهش هزینه‌های استنتاج تمرکز کنند تا رقابت‌پذیری مدل‌های بزرگ را حفظ نمایند. برای بانکی که ماهانه ۵۰ میلیون درخواست برای طبقه‌بندی اسناد دارد، استفاده از SLM کمتر از ۴ هزار دلار هزینه محاسباتی دارد، در حالی که استفاده از GPT-4o بیش از ۱۲۰ هزار دلار روی دست بانک می‌گذارد. تخمین زده می‌شود تفاوت هزینه هر توکن بین یک SLM داخلی و APIهای پیشرو، بین ۳ تا ۳۰ برابر باشد.

علاوه بر هزینه، مزیت SLM در چهار محور خاص اثر می‌کند: هزینه هر استنتاج، تأخیر (Latency)، محل استقرار داده‌ها (Data Residency) و قابلیت حسابرسی (Auditability). یک مدل ۸ میلیارد پارامتری میزبانی‌شده که به یک پرس‌وجوی طبقه‌بندی تراکنش پاسخ می‌دهد، معمولاً در کمتر از ۲۰۰ میلی‌ثانیه در داخل VPC پاسخ را برمی‌گرداند. در حالی که فراخوانی معادل در GPT-4o نه‌تنها ۲۰ تا ۶۰ برابر گران‌تر است، بلکه تأخیر شبکه را اضافه کرده و داده‌های حساس را به دست شخص ثالث می‌سپارد؛ موضوعی که برای بسیاری از حجم‌های کاری رگولاتوری، یک بن‌بست مطلق (Non-starter) است.

علاوه بر این، تحقیقات مایکروسافت روی Phi-3 نشان داد که یک مدل ۳.۸ میلیارد پارامتری، اگر روی داده‌های منتخب آموزش ببیند، می‌تواند در بنچمارک‌های هدفمند با مدل‌هایی ۱۰ برابر بزرگ‌تر رقابت کند. در خدمات مالی، مدلی که روی ۱۰ سال سند KYC، یادداشت‌های وام و پرونده‌های انطباق (Compliance) تنظیم شده باشد، تراکمی از دانش تخصصی پیدا می‌کند که مدل‌های عمومی فاقد آن هستند. در واقع SLM برای استخراج و طبقه‌بندی، چون «حواس‌پرتی‌های» دنیای باز را ندارد، اغلب برتر عمل می‌کند و صرفاً «کافی» نیست، بلکه بهینه‌تر است.

پر کردن شکاف هماهنگی AI

بانک‌های پیشرو اکنون روی «شکاف هماهنگی AI» (AI Coordination Gap) تمرکز کرده‌اند؛ یعنی همان افت قابل اندازه‌گیری در قابلیت اطمینان، بهره‌وری هزینه و انطباق که در نقاط انتقال (Handoffs) بین مدل‌ها، سیستم‌های داده و بازبین‌های انسانی رخ می‌دهد. این یک شکست در سطح یک مدل واحد نیست، بلکه یک شکست سیستمیک در درزهای ارتباطی است. برای مثال، در یک خط لوله شش مرحله‌ای که هر مرحله ۹۷٪ دقت دارد، قابلیت اطمینان نهایی (End-to-End) به ۸۳٪ می‌رسد (۰.۹۷ به توان ۶). در صنعت بانکداری، این یک خطای گرد کردن نیست، بلکه یک حادثه رگولاتوری است.

برای رفع این مشکل، یک چارچوب پنج‌لایه در حال شکل‌گیری است:

• لایه مسیریابی (Routing): یک طبقه‌بندی‌کننده ارزان (مدل ۱ تا ۳ میلیارد پارامتری یا خودِ SLM) تصمیم می‌گیرد که آیا پرس‌وجو یک دسته‌بندی روتین تراکنش است یا یک قضاوت پیچیده در مورد انطباق. این لایه در مقابل هر درخواست قرار دارد و تأخیر در اینجا حیاتی است. ابزارهایی مثل روترهای LangChain و ماشین‌های وضعیت LangGraph، مسیریابی را صریح و قابل حسابرسی می‌کنند؛ موضوعی ضروری برای زمانی که رگولاتور بپرسد چرا یک درخواست خاص به یک عامل خودمختار ارسال شده است.
• لایه بازیابی (RAG): این لایه با استفاده از تولید بازیابی‌افزا (RAG) و پایگاه‌داده‌های برداری مثل Pinecone، مدل را در داده‌های لحظه‌ای شرکت مستقر می‌کند. این لایه پرونده‌های رگولاتوری، تاریخچه حساب‌ها و اسناد سیاست‌نامه‌ای را استخراج می‌کند. اکثر «خطاهای مدل» در بانکداری در واقع خطاهای بازیابی هستند که ناشی از تکه‌بندی (Chunking) بد، امبدینگ‌های قدیمی یا مدل‌های امبدینگ نامناسب می‌باشند. این لایه مهم‌ترین دفاع در برابر توهمات در صنعت مالی است.
• لایه استدلال (Reasoning): اینجا تصمیم می‌گیرند که برای هر تسک از SLM استفاده شود یا LLM. استخراج و طبقه‌بندی روتین در SLM می‌ماند. استدلال‌های پیچیده چندمرحله‌ای، مانند ساختار مشتقات مالی یا الگوهای غیرمعمول کلاهبرداری که مدل پیش‌تر ندیده است، به مدل‌هایی مثل Claude 3.5 ارجاع داده می‌شود تا از ابداعات مدل (Confabulation) جلوگیری شود. در این مقایسه، مدل‌های پیشرو همچنان برتری دارند، چنان‌که مدل Claude Fable 5 در بنچمارک‌های تخصصی صنعت جایگاه خود را به عنوان پیشرو در استدلال‌های پیچیده تثبیت کرده است. بانک‌ها معمولاً بودجه مدل‌های پیشرو را برای ۱۵ تا ۲۰ درصد از کارهایی که واقعاً به استدلال عمیق نیاز دارند، ذخیره می‌کنند.
• لایه ارکستراسیون (Orchestration): با استفاده از ابزارهایی مثل LangGraph، AutoGen یا CrewAI، شرکت‌ها این مراحل را به صورت گراف‌هایی با وضعیت صریح، قابلیت‌های تکرار (Retry) و مسیرهای جایگزین (Fallback) توالی می‌بخشند. قابلیت اطمینان از طریق «دروازه‌های اعتبارسنجی» در این لایه بازیابی می‌شود. این لایه «منطق توالی» (Sequencing Logic) را مدیریت می‌کند؛ یعنی همان کدهای خاصی که جریان را از طبقه‌بندی به بازیابی، سپس به استدلال و در نهایت به اعتبارسنجی هدایت می‌کنند.
• دروازه بازبینی انسانی (Human-in-the-Loop): یک الزام سخت رگولاتوری که در آن تصمیمات بالای یک حد ریسک مشخص، باید توسط انسان تأیید شوند. این دروازه‌ها بر اساس حد آستانه اطمینان (مثلاً زیر ۰.۸۵) یا حد مبلغ وام مرتبط با سیاست ریسک فعال می‌شوند. هدف این است که دروازه نه روی هر درخواست فعال شود (که ROI را نابود می‌کند) و نه در موارد ریسکی فعال نشود (که بانک را نابود می‌کند).

معماری مرجع: دستیار ارزیابی وام

برای تجسم عملی چارچوب شکاف هماهنگی، یک خط لوله لایه‌ای برای «دستیار ارزیابی وام» را در نظر بگیرید:

۱. SLM مسیریاب (Llama 3.1 8B تنظیم‌شده): اسناد را بر اساس نوع و پیچیدگی طبقه‌بندی می‌کند. در VPC اجرا شده و تأخیر p95 آن حدود ۱۲۰ میلی‌ثانیه است. درخواست را به مسیر «استاندارد» (مسیر SLM) یا «پیچیده/استثنا» (مسیر LLM) می‌فرستد.
۲. لایه بازیابی (Pinecone + اسناد سیاست‌نامه‌ای): تاریخچه متقاضی و بخش‌های مرتبط با سیاست ارزیابی وام را استخراج می‌کند. امبدینگ‌ها هر شب به‌روزرسانی می‌شوند و نتایج top-k را با ذکر منابع برای حسابرسی برمی‌گرداند.
۳. لایه استدلال (SLM برای موارد استاندارد، Claude 3.5 برای استثناها): درخواست‌های استاندارد استخراج و امتیازدهی را در SLM دریافت می‌کنند. استثناها برای استدلال چندعاملی به مدل پیشرو ارجاع داده می‌شوند. تمام خروجی‌ها شامل یک امتیاز اطمینان (Confidence Score) هستند.
۴. ارکستراسیون (ماشین وضعیت LangGraph): مراحل را توالی می‌بخشد، شکست‌ها را تکرار می‌کند و اعتبارسنجی را اعمال می‌کند. هر تغییر وضعیت را با نسخه مدل و هش پرامپت برای رگولاتورها ثبت می‌کند.
۵. دروازه انسانی: خروجی‌هایی با اطمینان کمتر از ۰.۸۵ یا وام‌هایی بالای یک سقف مبلغ مشخص، به همراه استدلال‌ها و منابع پیوست شده، به بازبین انسانی ارسال می‌شوند.

استقرار در دنیای واقعی

تئوری ارزان است، اما استقرارهای عملی در مؤسسات نام‌دار ثابت می‌کند که مدل لایه‌ای اکنون به استاندارد تبدیل شده است:

• گلدمن ساکس: دستیار GS AI آن‌ها به ۴۶,۰۰۰ کارمند خدمات می‌دهد. مارکو ارجنتی، CIO این شرکت، رویکرد آن‌ها را استفاده از مدل‌های هدفمند برای حجم بالای کارهای برنامه‌نویسی و اسنادی توصیف کرد، در حالی که استدلال‌های پیشرو برای تحلیل‌های پیچیده رزرو شده‌اند. عامل‌های خودمختار آن‌ها در داخل دروازه‌های ارکستراسیون سختگیرانه عمل می‌کنند.
• جی‌پی مورگان (JPMorgan Chase): مجموعه LLM Suite داخلی آن‌ها به بیش از ۲۰۰,۰۰۰ کارمند دسترسی داد. ترزا هیتسنرت، مدیر ارشد داده و تحلیل، استقرار آن‌ها را حول محور «استقرار حاکمیت‌شده و مبنی‌سازی‌شده» (Governed, Grounded Deployment) تعریف کرده است و تأکید دارد که لایه‌های بازیابی و ارکستراسیون هستند که بار انطباق و رگولاتوری را به دوش می‌کشند.
• مورگان استانلی: دستیار مدیریت ثروت آن‌ها یک نمونه کلاسیک از استقرار RAG است. این سیستم که با OpenAI ساخته شده، بر پایه کتابخانه تحقیقاتی اختصاصی شرکت استوار است تا اطمینان حاصل شود که مشاوران پاسخ‌هایی را دریافت می‌کنند که از محتوای تاییدشده داخلی استخراج شده، نه از حافظه منجمد آموزش مدل.

مسیر اجرا برای مدیران فنی

به رهبران مهندسی توصیه می‌شود پیش از ساخت، سیستم را «ابزارگذاری» (Instrument) کنند. درخواست‌های یک ماه نماینده را ثبت کرده و آن‌ها را بر اساس پیچیدگی خوشه‌بندی کنید. اکثر حجم‌های کاری خدمات مالی در محدوده ۷۰ تا ۸۵ درصد مناسب SLM هستند. نادیده گرفتن این مرحله منجر به تخصیص بیش از حد ظرفیت مدل‌های پیشرو و تخریب نرخ بازگشت سرمایه (ROI) می‌شود.

مراحل اجرایی گام‌به‌گام:

• ابتدا لایه بازیابی را بسازید: خط لوله RAG را با Pinecone یا یک دیتابیس میزبانی‌شده بسازید. کیفیت بازیابی را با یک مجموعه سؤال جدا شده (Held-out set) اعتبارسنجی کنید. یک LLM پیشرو روی یک لایه بازیابی خوب، همیشه بهتر از یک SLM سفارشی روی یک بازیابی ضعیف عمل می‌کند. تنظیم دقیق (Fine-tuning) دانش را به‌صورت استاتیک در مدل می‌بایند، در حالی که RAG آن را به‌روز نگه می‌دارد.
• SLM را روی کارهای پرحجم تنظیم کنید: یک تسک پرتکرار (مثلاً استخراج سند KYC) را انتخاب کنید. Llama 3.1 8B یا Mistral 7B را روی چند هزار نمونه برچسب‌دار تنظیم دقیق کنید. این گام ۲ تا ۱۰ هزار دلاری، آن تسک را به‌طور دائم از صورت‌حساب APIهای پیشرو حذف می‌کند. اگر SLM تنظیم‌شده در آن تسک خاص GPT-4o را شکست ندهد، این نشان‌دهنده کمبود داده‌های برچسب‌دار کافی است.
• ارکستراسیون را با دروازه‌های صریح سیم‌کشی کنید: از LangGraph برای ایجاد یک ماشین وضعیت استفاده کنید. هر انتقال وضعیت باید با نسخه مدل و هش پرامپت برای حسابرسی رگولاتوری ثبت شود. قابلیت اطمینان کل سیستم را به صورت End-to-End اندازه بگیرید، نه فقط دقت هر جزء را به صورت جداگانه.
• پروتکل MCP را ادغام کنید: از پروتکل زمینهٔ مدل (Model Context Protocol) شرکت Anthropic استفاده کنید. MCP یک رابط استاندارد و حاکمیت‌شده برای دسترسی مدل‌ها به ابزارها و داده‌های داخلی فراهم می‌کند و جایگزین اتصالات سفارشی (Bespoke) شده و الزامات بازرسی SEC و سازمان بانکی اروپا را برآورده می‌کند. MCP اتصالات موردی را به یک رابط تحت نظارت تبدیل می‌کند که در بررسی‌های انطباقی به‌طور فزاینده‌ای انتظار می‌رود.

الگوهای شکست رایج در صنعت مالی

بسیاری از شرکت‌ها هنگام تصمیم‌گیری بین SLM و LLM دچار اشتباهات یکسانی می‌شوند:

• انتخاب یک مدل واحد برای کل سیستم: استانداردسازی روی GPT-4o برای سادگی، اغلب باعث می‌شود هزینه‌های استنتاج در کارهایی که یک SLM با کسری از یک سنت انجام می‌دهد، ۲۰ تا ۳۰ برابر متورم شود.
• تنظیم دقیق پیش از اصلاح بازیابی: شرکت‌ها ماه‌ها وقت صرف Fine-tuning می‌کنند تا مدل داده‌های آن‌ها را «بشناسد»، در حالی که علت ریشه‌ای مشکل در واقع امبدینگ‌های قدیمی یا تکه‌بندی (Chunking) بد در لایه RAG است.
• نادیده گرفتن خطای تجمعی: سیستم را به دلیل اینکه هر جزء ۹۵ تا ۹۸ درصد دقیق است منتشر می‌کنند، اما متوجه می‌شوند که خط لوله نهایی تنها ۸۰ درصد قابلیت اطمینان دارد که منجر به حوادث رگولاتوری می‌شود.
• نگاه به بازبینی انسانی به عنوان جایگزین (Fallback): برخورد با بازبینی انسانی به عنوان یک فکر afterthought بدون تعریف حد آستانه اطمینان، که باعث می‌شود بازبین‌ها یا در حجم انبوه کار غرق شوند یا ریسک‌های اصلی را از دست بدهند.

چشم‌انداز رگولاتوری و ۱۸ ماه آینده

رگولاتورها در حال فاصله گرفتن از «کارت‌های مدل» (Model Cards) ساده هستند. فدرال رزرو و دفتر کنترل‌کننده ارز (OCC) سیگنال داده‌اند که انتظارات مدیریت ریسک مدل (مشتق از SR 11-7)، اکنون شامل سامانه‌های زاینده (Generative Systems) نیز می‌شود.

پیش‌بینی برای ۲۰۲۶-۲۰۲۷:

• نیمه دوم ۲۰۲۶: پروتکل MCP به لایه پیش‌فرض ادغام در خدمات مالی رگولاتوری تبدیل می‌شود تا الزامات دسترسی به داده و حسابرسی را برآورده کرده و جایگزین اتصالات دستی شود.
• نیمه اول ۲۰۲۷: پشته‌های لایه‌ای SLM/LLM به معماری مرجع جهانی تبدیل می‌شوند، زیرا هزینه تنظیم دقیق به زیر ۵ هزار دلار می‌رسد و قیمت‌های APIهای پیشرو ثابت می‌مانند.
• نیمه دوم ۲۰۲۷: رگولاتورها احتمالاً مستندات ارکستراسیون، شامل منطق مسیریابی، منابع بازیابی و دروازه‌های انسانی را اجباری می‌کنند و «شکاف هماهنگی» را به یک سند رسمی انطباق تبدیل می‌کنند.

در این چشم‌انداز جدید، مزیت رقابتی متعلق به شرکتی است که بتواند فرآیند تصمیم‌گیری خود را در یک صفحه ترسیم کند، نه شرکتی که بودجه‌ی بیشتری برای خرید بزرگ‌ترین مدل دارد. تصمیم دیگر این نیست که «کدام مدل را بخریم؟»، بلکه این است که «در کدام یک از این پنج لایه، هر مدل هزینه خود را توجیه می‌کند؟»

گام بعدی شما

• تحلیل درخواست‌های ماهانه خود را انجام دهید و درصد کارهایی که نیاز به استدلال پیچیده ندارند (مناسب SLM) را تخمین بزنید.
• لایه بازیابی (RAG) خود را قبل از اقدام به تنظیم دقیق مدل، بهینه‌سازی کنید.
• بررسی کنید آیا پروتکل MCP می‌تواند جایگزین اتصالات دستی شما به دیتابیس‌های داخلی شود یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.