گروهی از پژوهشگران دانشگاهی TRUST Agents را رونمایی کردهاند؛ چارچوبی چندعامله برای تأیید واقعیت و تشخیص اخبار جعلی به شیوهای تفسیرپذیر.
این سیستم فراتر از طبقهبندی ساده «درست یا غلط» عمل میکند. خطمشی پیچیدهای دارد که ادعاهای قابل اثبات را شناسایی میکند، شواهد مرتبط را بازیابی میکند، ادعاها را با شواهد مقایسه میکند، و در شرایط عدم قطعیت استدلال میکند. نهایتاً توضیحاتی تولید میشود که انسانها میتوانند بررسی و تأیید کنند.
خطلوله پایه شامل چهار عامل تخصصی است. عامل استخراج ادعا از شناسایی موجودیتهای نامدار (Named Entity Recognition)، تجزیه وابستگی (Dependency Parsing) و استخراج مبتنی بر مدل زبانی بزرگ (LLM) بهره میبرد. عامل بازیابی جستجوی ترکیبی پراکنده و متراکم با BM25 و FAISS انجام میدهد. عامل تأییدکننده ادعاها را با شواهد مقایسه و با امتیازهای اطمینان کالیبرهشده قضاوت میکند. عامل توضیحدهنده گزارشهای قابل فهم برای انسان با ارجاعات شفاف به شواهد تولید میکند.
برای ادعاهای پیچیدهتر، پژوهشگران افزونهای پژوهشمحور معرفی کردهاند. این افزونه شامل عامل تجزیهکننده با الهام از روش تجزیه ادعا در LoCal است، هیئت منصفه چندعامله با الهام از Delphi با شخصیتهای تأییدکننده تخصصی، و تجمعکننده منطقی که آراء اتمی را با عملگرهای عطف، فصل، نقیض و استلزام ترکیب میکند.
این چارچوب روی معیار LIAR در برابر BERT تنظیمشده، RoBERTa تنظیمشده و پایه LLM صفرشات ارزیابی شد. نتایج نشان میدهد اگرچه رمزگذارهای نظارتشده در دقت خام قویترند، TRUST Agents تفسیرپذیری، شفافیت شواهد و قابلیت استدلال در ادعاهای ترکیبی را بهطور معناداری بهبود میدهد. پژوهشگران کیفیت بازیابی و کالیبراسیون عدم قطعیت را بهعنوان موانع اصلی دستیابی به تأیید واقعیت خودکار قابل اعتماد شناسایی کردند.
این پیشرفت نشاندهنده گرایش به سمت سیستمهای هوش مصنوعی شفافتر در مبارزه با اطلاعات نادرست است؛ اولویتدهی نه فقط به دقت، بلکه به توانایی توضیح نحوه رسیدن به نتیجه.
گفتگو