چرا ترس از مسئولیت حقوقی، مدل‌های هوش مصنوعی را به حقیقت نزدیک می‌کند؟

اگر برای تصمیمات حساس اداری یا اعتباری به هوش مصنوعی تکیه می‌کنید، احتمالاً یک بمب ساعتی حقوقی را در سازمان خود جای داده‌اید. بسیاری از شرکت‌ها به بنچمارک‌های عمومی اعتماد می‌کنند، اما این آزمون‌ها اغلب شکست‌های ظریفی را نادیده می‌گیرند که مستقیماً به دادگاه ختم می‌شوند.

این وضعیت در حالی رخ می‌دهد که اعتماد کاربران به دقت چت‌بات‌ها همچنان پایین است. ما پیش از این در پوشش خود درباره‌ی SkillEvolver دیدیم که مدل‌ها در دقت مهارت‌های خاص چه مشکلاتی دارند. حالا نبرد بر سر «حقیقت در موضوعات حساس» است؛ حوزه‌هایی مثل ژئوپلیتیک و سلامت روان که پاسخ‌های ساده‌ی «بله یا خیر» ندارند. در این مسیر، مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — باید از یک همه‌کاره‌ی ساده به یک متخصص دقیق تبدیل شود.

Forum AI که ۱۷ ماه پیش در نیویورک تأسیس شد، برای مبارزه با محتوای بی‌کیفیت یا «اسلاپ» (Slop) روشی خاص دارد. طبق گزارش TechCrunch در ۱۴ مه ۲۰۲۶، این شرکت ۳ میلیون دلار سرمایه از Lerer Hippeau جذب کرده است. آن‌ها برای طراحی بنچمارک‌ها، متخصصانی چون تونی بلینکن (وزیر خارجه سابق آمریکا) را به خدمت گرفتند. هدف این است که مدل‌های بنیادی (Foundation Model) — که شبیه به یک زیربنای بتنی هستند و تمام ساختمان‌های تخصصی روی آن‌ها ساخته می‌شوند — توسط «داوران هوش مصنوعی» ارزیابی شوند که باید به اجماع ۹۰ درصدی با نظرات این متخصصان برسند.

به نقل از کمبل براون، یافته‌های این شرکت شکاف‌های عمیقی را نشان می‌دهد. برای مثال، مدل Gemini در برخی داستان‌های بی‌ربط، داده‌ها را از وب‌سایت‌های حزب کمونیست چین استخراج می‌کرد. همچنین اکثر مدل‌ها دچار سوگیری سیاسی به سمت چپ هستند و گاهی استدلال‌های مخالف را بدون ذکر منبع و به صورت ناقص بازنمایی می‌کنند. این توهمات (Hallucination) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — در محیط‌های تجاری پذیرفتنی نیست.

این تحول، چرخش از «همه‌کاره‌های باهوش» به سمت «تخصص‌های دامنه» است. در حالی که غول‌های فناوری وعده‌ی درمان سرطان می‌دهند، کاربران هنوز پاسخ‌های غلط می‌گیرند. شرط اصلی موفقیت Forum AI این است که ترس شرکت‌ها از مسئولیت حقوقی، آن‌ها را مجبور به صادق کردن مدل‌ها کند، نه میل به حقیقت.

گام بعدی شما

• اگر از AI در تحلیل‌های مالی استفاده می‌کنید، نتایج را با منابع انسانی تراز اول تطبیق دهید.
• قوانین مربوط به سوگیری در استخدام در نیویورک را دنبال کنید تا استاندارد جدید نظارت بر AI را بشناسید.
• به دنبال ابزارهای «حسابرسی AI» (AI Audit) باشید تا ریسک‌های حقوقی سازمانتان را کاهش دهید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.