تصور کنید یک سیستم هوش مصنوعی ادعا کند مصرف آب در یک مزرعه ۳۰٪ کاهش یافته است، اما هیچ راهی برای اثبات این عدد وجود نداشته باشد. در چنین دنیایی، اعداد تنها ادعاهایی متقاعدکننده هستند، نه حقایق علمی. بدون یک پیوند ردیابی‌پذیر به حسگر اصلی، زمان دقیق اندازه‌گیری و متدولوژی به‌کاررفته، این عدد صرفاً یک ادعاست و نه یک حقیقت.
پروژه MyZubster با به چالش کشیدن این فرض که هوش مصنوعی باید منبع حقیقت باشد، سیستمی را پیشنهاد می‌دهد که در آن هوش مصنوعی زاینده (Generative AI) — شبیه مترجمی که متن را بازنویسی می‌کند اما خودش شاهد حادثه نبوده است — تنها بر روی شواهد قابل تأیید عمل می‌کند. به نقل از مستندات معماری این تیم ایتالیایی که در ۲۷ اوت ۲۰۲۶ منتشر شد، مدل‌های زاینده می‌توانند خروجی‌های شگفت‌انگیزی تولید کنند، اما ذاتاً قادر به تأیید رویدادهای دنیای واقعی نیستند. آن‌ها استدلال می‌کنند که «تولید» و «تأیید» دو عملیات بنیاداً متفاوت هستند.
بیشتر نرم‌افزارهای فعلی مسیری خطی از کاربر به پایگاه داده طی می‌کنند، اما ظهور اینترنت اشیا (IoT) و بلوک‌چین شکافی در نحوه اثبات واقعیت فیزیکی توسط سیستم‌های دیجیتال ایجاد کرده است. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در لایه‌های زیرین، تنها راه مقابله با توهمات مدل‌هاست. این رویکرد با مفهوم امتیاز اعتماد به داده همسو است که بر لزوم وجود معیارهای کمی برای سنجش قابلیت اطمینان ورودی‌های هوش مصنوعی تأکید دارد.
زمینه: فراتر از یک اپلیکیشن
نامیدن MyZubster صرفاً به عنوان یک «اپلیکیشن» ناقص است. این پروژه در واقع یک اکوسیستم دیجیتال متن‌باز ایتالیایی است که در حال حاضر در مرحله توسعه قرار دارد. تیم سازنده به جای ارائه یک پلتفرم نهایی و بسته، در حال مستندسازی این است که چگونه معماری سیستم تکامل می‌یابد تا چندین لایه متمایز را به هم متصل کند.
این تکامل در واقع حرکتی است به دور از مدل سنتی «کاربر $\rightarrow$ برنامه $\rightarrow$ پایگاه داده $\rightarrow$ سرویس». در عوض، این پروژه یک اکوسیستم قابل تأیید را بررسی می‌کند که در آن هوش مصنوعی منبع حقیقت نیست، بلکه ابزاری است که بر روی شواهد عمل می‌کند. منطق این سیستم از یک جریان خاص پیروی می‌کند: شواهد $\rightarrow$ هوش مصنوعی $\rightarrow$ تفسیر $\rightarrow$ تأیید $\rightarrow$ تصمیم.
برای حل این چالش، MyZubster در حال ساخت یک معماری چندلایه‌ای است که برای اتصال دنیای فیزیکی و دیجیتال طراحی شده است. این خط لوله از «دنیای واقعی» (شامل افراد، مکان‌ها و دستگاه‌ها) شروع شده، از طریق «داده‌ها» (حسگرها و منابع خارجی) و «منشأ» (منبع، زمان و اثبات) عبور می‌کند و در نهایت به لایه هوش مصنوعی برای تفسیر می‌رسد. خروجی نهایی دیگر فقط یک نتیجه ساده نیست، بلکه شواهدی است که بازتولیدپذیر و قابل تأیید است.
جزئیات: اتصال نرم‌افزار به واقعیت فیزیکی
اتصال نرم‌افزار به واقعیت فیزیکی فراتر از جمع‌آوری ساده مقادیر است. برای مثال، در یک پروژه آزمایشی محیط‌زیستی، این فرآیند ممکن است شامل حسگرهای خاک، کنتورهای آب، داده‌های هواشناسی، مشاهدات میدانی، تصاویر، برچسب‌های زمانی و اطلاعات GPS یا اطلاعات زمینه‌ای باشد. برای تبدیل این اندازه‌گیری‌های خام به شواهد دیجیتال، سیستم باید به سؤالات دقیقی پاسخ دهد:
- چه چیزی اندازه‌گیری شد و در کجا؟
- چه زمانی اندازه‌گیری رخ داد؟
- از کدام دستگاه استفاده شد و چه متدی به کار رفت؟
- چه کسی یا چه چیزی داده‌ها را پردازش کرد و چه تغییراتی روی داده‌ها اعمال شد؟
- آیا این نتیجه بازتولیدپذیر است؟
چارچوب MRV
طبق اعلام این تیم، پروژه به‌شدت با مدلی به نام MRV (اندازه‌گیری، گزارش‌دهی و تأیید) ادغام شده است. این خط لوله توالی سخت‌گیرانه‌ای را دنبال می‌کند:
۱. رویداد واقعی $\rightarrow$ اندازه‌گیری $\rightarrow$ داده خام
۲. منشأ $\rightarrow$ پردازش $\rightarrow$ شاخص کلیدی عملکرد (KPI)
۳. گزارش $\rightarrow$ تأیید
این چارچوب برای بخش‌های حساس که دقت در آن‌ها غیرقابل مذاکره است، طراحی شده است؛ حوزه‌هایی مانند اقتصاد چرخشی، کشاورزی پایدار، هویت دیجیتال، سیستم‌های غیرمتمرکز، زنجیره‌های تأمین، مشارکت‌های اجتماعی و زیرساخت‌های منافع عمومی.
تیم در حال حاضر در حال بررسی این موضوع است که آیا این معماری می‌تواند از یک پیشنهاد آینده برای LIFE ۲۰۲۷ پشتیبانی کند یا خیر. باید تأکید کرد که این یک مرحله اکتشافی است و نه یک کنسرسیوم نهایی شده یا اعلام رسمی دریافت بودجه از اتحادیه اروپا. آن‌ها گفتگوهایی را پیرامون اطلاعات زراعی، آب چرخشی، بازاستفاده از آبیاری، متدولوژی علمی و حاکمیت داده‌ها آغاز کرده‌اند تا ببینند آیا مشکل محیط‌زیستی قابل اندازه‌گیری وجود دارد که این معماری بتواند سودمندی خود را در آن اثبات کند.
بازتعریف اعتماد در متن‌باز
MyZubster مفهوم متن‌باز را فراتر از بازرسی کد می‌برد. این پروژه معتقد است که اعتماد مطلق نیست، بلکه «بازرسی‌پذیر» است و نیازمند ترکیبی از کد، داده، متدولوژی و شواهد است. فرمول این اعتماد چنین تعریف شده است:
کد + داده + متدولوژی + شواهد + بازتولیدپذیری = اعتماد
با استفاده از پلتفرم‌هایی مانند GitHub نه فقط برای میزبانی کد، بلکه به عنوان یک سوابق تاریخی، سیستم «منشأ نرم‌افزاری» ایجاد می‌کند. در این مدل:
- کامیت‌ها (Commits) تغییرات را مستند می‌کنند.
- درخواست‌های ادغام (Pull Requests) بحث‌ها را مستند می‌کنند.
- مسائل (Issues) مشکلات را مستند می‌کنند.
- یکپارچه‌سازی مداوم (CI) مستند می‌کند که آیا فرضیات از تست‌های خودکار عبور می‌کنند یا خیر.
- نسخه‌ها (Releases) وضعیت‌های خاص سیستم را مستند می‌کنند.
این منشأ نرم‌افزاری سپس می‌تواند مستقیماً به منشأ داده‌ها متصل شود. این رویکرد مستندسازی دقیق در گیت‌هاب یادآور سیستم us-vs-them است که از تاریخچه تغییرات برای تفکیک اثرات انسانی و ماشینی در کدها استفاده می‌کند.
نکته کلیدی این است که این معماری، «شکست» را یک ویژگی می‌داند. برای اینکه شواهد مفید باشند، سیستم باید اجازه دهد تست‌ها شکست بخورند و نتایج هوش مصنوعی به چالش کشیده شوند. فرضیات علمی باید ابطال‌پذیر باشند و مشارکت‌کنندگان متن‌باز باید بتوانند اعلام کنند که چه زمانی چیزی کار نمی‌کند. یک سیستم قابل اعتماد نه با نبود شکست، بلکه با این حقیقت تعریف می‌شود که شکست به اطلاعاتی قابل مشاهده و مستند تبدیل می‌شود.
وضعیت فعلی و اهداف آینده
در حال حاضر MyZubster مجموعه‌ای از مخازن، اجزای آزمایشی، نمونه‌های اولیه و پیشنهادهای معماری است که تحت توسعه فعال قرار دارد. تیم تعمداً از به‌کاربردن واژه‌هایی مثل «نسخه تولیدی» برای قابلیت‌های نقشه راه یا «شراکت» برای گفتگوهای اکتشافی پرهیز می‌کند تا مرز بین آزمایش و تولید را حفظ کند.
در این مسیر، نقش توسعه‌دهنده از «سازنده قابلیت» به «تأییدکننده خط لوله» تغییر می‌کند. هدف فعلی اضافه کردن ویژگی‌های بیشتر نیست، بلکه اثبات یک خط لوله کامل است: رویدادی فیزیکی که به اندازه‌گیری منجر شود، سپس از طریق منشأ و تحلیل هوش مصنوعی پردازش شده و به نتیجه‌ای برسد که یک شخص ثالث مستقل بتواند آن را تأیید کند. اگر خط لوله شکست بخورد، تیم دلیل آن را مستند می‌کند و این را به عنوان پیشرفت می‌بیند.
برای کاربر نهایی، این یعنی گذار از مدل «اعتماد به پلتفرم» به سمت نرم‌افزارهایی که می‌توانند «روند کار خود را نشان دهند» و اجازه دهند شواهد پشت هر ادعای تولید شده توسط هوش مصنوعی بازرسی شود.
گام بعدی شما
- اگر توسعه‌دهنده هستید، مدل MRV را برای پروژه‌هایی که نیاز به دقت بالا دارند بررسی کنید.
- در مستندات MyZubster در گیت‌هاب، نحوه اتصال داده‌های حسگر به لایه‌های تفسیر را دنبال کنید.
- هنگام استفاده از خروجی‌های هوش مصنوعی در گزارش‌های فنی، به جای پذیرش عدد، منبع و متدولوژی استخراج آن را مطالبه کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو