تصور کنید بهجای پذیرفتن یک پاسخ متقاعدکننده اما مبهم از هوش مصنوعی، بتوانید هر ادعا را تا ریشهی سند مربوطهاش دنبال کنید. این دقیقاً همان تغییری است که Integrity-OS در نحوه پاسخگویی مدلها ایجاد کرده است.
این سامانه که در ۱۹ سپتامبر ۲۰۲۶ برای چالش Sanity معرفی شد، بر اساس یک توالی سختگیرانه عمل میکند: «وعده ← اقدام ← ادعا ← شواهد ← تأیید ← بازخورد جامعه ← تضاد». طبق گزارش dev.to، این سیستم بهجای تکیه بر خلاصههای کلی، اجازه میدهد تعهدات را از طریق یک زنجیره شواهد صلب ردیابی کنید.
بسیاری از ابزارهای فعلی سعی میکنند تناقضات را با ابداع یک پاسخ محتمل حل کنند — شبیه به کسی که برای پوشاندن اشتباهش، یک داستان باورپذیر میسازد. اما Integrity-OS رویکردی متضاد دارد و تضادها را حفظ میکند. برای مثال، اگر وعده حمایت از ۵۰۰ دانشجو داده شده باشد اما شواهد فقط ۳۱۲ مورد را تأیید کنند، سیستم بهجای هموار کردن دادهها، دقیقاً روی این شکاف متمرکز میشود.
همانطور که در تحلیلهای پیشین ما دربارهی مبنیسازی (Grounding) اشاره کردیم، هدف نهایی این است که مدل از تخیل فاصله بگیرد. در این سامانه، کاربران از طریق یک عامل (Agent) — مثل یک بازرس دیجیتال که هر سند را با دقت چک میکند — با سوابق تأییدیه تعامل کرده و ادعاها را به منبع اصلی بازمیگردانند. این رویکرد در راستای توسعهی عاملهای مستقل است که در پروژههایی مانند Vibebase برای تبدیل تئوری هویت حاکمیتی به کد عملی مورد آزمایش قرار گرفتهاند.
توسعهدهنده این ابزار را با یک گردشکار «اول-هوش مصنوعی» ساخته و عمداً از طراحی داشبوردهای سنتی فاصله گرفته است. تمرکز بر «ردپای شواهد» تضمین میکند که هر ادعا بر اساس یک رکورد قابل تأیید باشد، نه یک حدس احتمالی.
برای یک کاربر عادی، این تغییر یعنی نقش هوش مصنوعی از یک تولیدکننده محتوا به یک حسابرس جنایی تغییر میکند. شما دیگر نمیپرسید «آیا هدف محقق شد؟»، بلکه میپرسید «دقیقاً در کدام نقطه، شواهد برای این هدف کم آورد؟»
گام بعدی شما
- مکانیزم تبدیل تعهد به تضاد را در اپلیکیشن زنده ai.studio بررسی کنید.
- مدل ساختاریافتهی نقشهبرداری از شواهد را برای درک جریان دادهها مطالعه کنید.
- در پروژههای خود، بهجای درخواست خلاصه، از مدل بخواهید زنجیره شواهد هر ادعا را لیست کند.
اما این تنها بخشی از مسیر است؛ چالشهای سختافزاری برای اجرای چنین سیستمهای نظارتی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو