تصور کنید یک اشتباه کوچک در تحلیل یک پرونده حقوقی، تمام تلاش‌های چندین روزه یک تیم وکالت را به باد دهد. در دنیای حقوقی، جایی که حاشیه خطا صفر است، یک توهم (Hallucination) — شبیه دوستی که خاطره‌ای را با اطمینان کامل اما اشتباه تعریف می‌کند — می‌تواند فاجعه‌بار باشد. برای کارهای حقوقی با ریسک بالا، حتی یک توهم واحد می‌تواند اثرات ویرانگری داشته باشد و همین موضوع باعث می‌شود که «قابلیت اطمینان»، تنها معیاری باشد که برای پذیرش گسترده این فناوری اهمیت دارد.
هاروی (Harvey)، غول هوش مصنوعی حقوقی، در ۹ سپتامبر ۲۰۲۶ برای حل این چالش، شرکت گاردریلز ای‌آی (Guardrails AI) را تصاحب کرد. هدف اصلی این معامله، حل بحرانی‌ترین مانع در هوش مصنوعی حرفه‌ای، یعنی «پیش‌بینی‌پذیری» و تبدیل «احتمالات» به «قطعیت» در عملکرد عامل‌های هوش مصنوعی است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، پیش‌بینی‌پذیری در محیط‌های حرفه‌ای، بسیار مهم‌تر از قدرت خام مدل است.
به نقل از وینستون واینبرگ، مدیرعامل هاروی، مؤسسات حقوقی همواره می‌پرسند: «چطور بدانیم یک عامل قبل از اینکه به پرونده‌های واقعی مشتری دست بزند، دقیقاً چه واکنشی نشان می‌دهد؟». گاردریلز سه سال روی پاسخ این سؤال کار کرده است و حالا هاروی این دانش و تخصص را در زیرساخت تمام عامل‌هایی که عرضه می‌کند، قرار می‌دهد.
بسیاری از عامل‌های هوش مصنوعی (AI Agents) — مثل دستیاران دیجیتالی که می‌توانند به‌جای شما کارهای پیچیده را انجام دهند — وقتی با ورودی‌هایی مواجه می‌شوند که توسعه‌دهندگان در طول مراحل تست پیش‌بینی نکرده بودند، دچار خطا می‌شوند. در بخش حقوقی، جایی که عامل‌ها اکنون وظایفی چندمرحله‌ای را طی چندین ساعت یا روز در میان پرونده‌ها، اسناد و دانش داخلی مؤسسات مدیریت می‌کنند، حاشیه خطا صفر است. هاروی در حال تبدیل شدن به یک زیرساخت امن برای شرکت‌های فهرست Am Law 100 است؛ جایی که طبق داده‌های شرکت، ۸۰٪ از این مؤسسات در حال حاضر از این پلتفرم استفاده می‌کنند. علاوه بر این، تیم‌های حقوقی داخلی در شرکت‌های بزرگ، از جمله پنج شرکت از ۱۰ شرکت برتر Fortune، از این سیستم بهره می‌برند.
گاردریلز ای‌آی، پلتفرمی مستقر در سان‌فرانسیسکو، ابزارهای تخصصی برای جلوگیری از انحراف عامل‌ها از رفتار تعریف‌شده ارائه می‌دهد. این فناوری‌ها اکنون با ابتکارات هوش مصنوعی کاربردی هاروی ادغام شده‌اند تا یک «پشته قابلیت اطمینان» (Reliability Stack) ایجاد کنند:
- حفاظ‌های زمان اجرا (Runtime Guardrails): این ابزارها نقض سیاست‌ها، نشت داده‌ها و توهمات را به‌صورت لحظه‌ای شناسایی کرده و خروجی‌ها را پیش از آنکه به دست کاربر برسند، مسدود می‌کنند.
- اسنوگلوب (Snowglobe): محیطی برای شبیه‌سازی است که با استفاده از کاربران مصنوعی، رفتار عامل را تحت فشار تست می‌کند تا نقاط شکست و حالت‌های خرابی پیش از استقرار واقعی شناسایی شوند. این ابزار مجموعه‌های داده‌ای واقع‌گرایانه برای تنظیم دقیق (Fine-tuning) — شبیه وقتی به یک پزشک عمومی، تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — و همچنین برای تقطیر (Distillation) و بهینه‌سازی پرامپت‌ها تولید می‌کند.
- چارچوب متن‌باز: لایه‌ای از قابلیت‌های اطمینان که به‌طور گسترده پذیرفته شده و ماهانه بیش از ۲۵۰ هزار بار دانلود می‌شود. این چارچوب، انتزاعاتی (Abstractions) را تعریف کرده است که اکنون کل صنعت بر اساس آن‌ها می‌سازد.
- مجموعه داده‌های ارزیابی: ابزارهایی که موارد خاص (Edge Cases) و نتایج ریسکی را هدف قرار می‌دهند تا تیم‌ها بتوانند حالت‌های شکست را پیش از آنکه کاربران نهایی آن‌ها را پیدا کنند، به‌صورت کمی اندازه‌گیری کنند.
فناوری گاردریلز پیش از این توسط نهادهای بزرگی به کار گرفته شده است. در یک مطالعه موردی از MasterClass، آمان گوپتا، مدیر هوش مصنوعی این شرکت، اعلام کرد که آن‌ها به دلیل واقع‌گرایانه بودن داده‌های شخصیت‌های کاربر مصنوعی در Snowglobe نسبت به سایر داده‌های مصنوعی، به این سیستم مهاجرت کردند. مورد دیگر، استفاده از این فناوری در فرودگاه چانگی است.
شریا راجپال و زید سیمجی، بنیان‌گذاران گاردریلز، اکنون به تیم محصول و مهندسی هاروی پیوسته‌اند. راجپال اشاره کرد که سخت‌ترین بخش عرضه هوش مصنوعی، دانستن نحوه رفتار آن در مواجهه با ورودی‌هایی است که هیچ‌کس به فکر تست کردن آن‌ها نیفتاده است. هدف آن‌ها به‌کارگیری تخصص خود در تعیین و ارزیابی رفتار عامل‌ها در حساس‌ترین محیط‌های حرفه‌ای است.
این تصاحب بخشی از استراتژی توسعه تهاجمی هاروی در سال ۲۰۲۶ است. در همان روز، این شرکت جذب سرمایه ۵۵۰ میلیون دلاری با ارزش‌گذاری ۱۵.۵ میلیارد دلار را اعلام کرد که توسط دیفیوژن (Diffusion) و لایت‌اسپید ونچر پارتنرز (Lightspeed Venture Partners) رهبری شد.
این چهارمین خرید هاروی در سال ۲۰۲۶ است. پیش از این در ۱۶ ژوئیه ۲۰۲۶، پلتفرم بنچ‌مارک (Benchmark) را تصاحب کرده بود؛ یک پلتفرم زیرساخت تصمیم‌گیری مستقر در نیویورک برای مدیریت دارایی. آن معامله باعث شد الک دان و کانر جانسون، بنیان‌گذاران بنچ‌مارک، به سازمان محصول و مهندسی هاروی بپیوندند. خودِ شرکت گاردریلز نیز توسط سرمایه‌گذاران بزرگی از جمله Zetta Venture Partners، Bloomberg Beta، Pear VC، Factory و مایکروسافت حمایت می‌شد.
هاروی با جذب هم‌زمان بنچ‌مارک و گاردریلز، از یک پوسته ساده برای مدل‌های زبانی (LLM Wrappers) فراتر رفته و در حال تبدیل شدن به یک سیستم‌عامل حرفه‌ای کامل (Full-stack Professional OS) است.
برای یک حقوق‌دان، این یعنی گذار از «هوش مصنوعی آزمایشی» به «عامل مورد اعتماد». وقتی یک سیستم بتواند هزاران سناریوی بحرانی و موارد خاص را از طریق Snowglobe پیش از دست زدن به پرونده مشتری شبیه‌سازی کند، پروفایل ریسک این فناوری به‌طور بنیادین تغییر می‌کند. هاروی دیگر فقط یک وکیل هوشمندتر نمی‌سازد، بلکه در حال ساخت کمربند ایمنی است که اجازه می‌دهد این وکلا به‌صورت خودکار عمل کنند. ادغام تست‌های مبتنی بر شبیه‌سازی نشان می‌دهد که فاز بعدی رقابت در هوش مصنوعی، نه بر سر اندازه مدل‌ها، بلکه بر سر «تأییدپذیری» (Verification) خواهد بود.
گام بعدی شما
- اگر از عامل‌های هوش مصنوعی در محیط‌های کاری استفاده می‌کنید، فرآیند «تست استرس» (Stress Testing) را به جای تست‌های ساده جایگزین کنید.
- بررسی کنید که آیا ابزارهای Guardrails متن‌باز می‌تواند لایه‌ای از امنیت را به جریان‌های کاری شما اضافه کند یا خیر.
- روی متدهای ارزیابی داده‌های مصنوعی برای کاهش نرخ توهم در مدل‌های تخصصی خود تمرکز کنید.
باید منتظر ماند و دید که سایر بازیگران هوش مصنوعی عمودی (Vertical AI)، به‌ویژه در پزشکی و مالی که هزینه شکست در آن‌ها به‌طور مشابهی بالاست، به این استراتژی تصاحب «اول-اطمینان» (Reliability-first) چه پاسخی می‌دهند.
گفتگو