باید بدانید که افزودن دادههای متنوع به مدلهای هوش مصنوعی، لزوماً به معنای پذیرش دیدگاههای مختلف نیست؛ بلکه در بسیاری از موارد، این رویکرد تنها منجر به یک «شبیهسازی سطحی» از تنوع میشود.
اگر یک مدل چندین سیستم ارزشی را بازنمایی کند اما همچنان از یک تعریف واحد و سختگیرانه برای مفاهیمی مثل «ضرر» یا «سود» استفاده کند، در واقع کثرتگرا نیست، بلکه فقط در حال تقلید از تنوع در یک فضای فنی محدود است.
در دنیای همراستاسازی (Alignment)، تلاش برای ایجاد مدلهای کثرتگرا (Pluralistic AI) افزایش یافته است. همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، چالش اصلی همواره تعادل میان کنترل و انعطاف بوده است. اما مشکل اینجاست که سیستمهای فعلی، تنوع را تنها مجموعهای از «ترجیحات» میبینند، نه مجموعهای از وجودشناسیها (Ontologies).
به نقل از مقالهای که در ۱۵ ژوئن ۲۰۲۶ به arXiv ارسال شد، پژوهشگر راشد مشکانی (Rashid Mushkani) پدیدهای به نام تسطیح وجودشناسانه (Ontological Flattening) را معرفی میکند. بر اساس این پژوهش، مدلهای فعلی معانی پیچیده و تاریخی را به جایگزینهای فنی خنثی یا قواعد تجمیعی تبدیل میکنند و بدین ترتیب، بنچمارکهای محدود را به عنوان حقیقت جهانی میپذیرند.
برای مقابله با این نقص، چهارچوب حاکمیت چرخهٔ حیات کثرتگرا (Pluralistic Lifecycle Governance یا PLG) پیشنهاد شده است. این چهارچوب بر اساس موارد زیر بنا شده است:
- سنتزی از مطالعات علم و فناوری (STS) و عدالت رویهای.
- تحلیل مضامین استخراجشده از ۱۱ مصاحبه با متخصصان.
- تست بر روی سه مورد از مدلهای همراه شهری (Urban AI Companions).
طبق گزارش مشکانی، روشهای فعلی کثرتگرایی در واقع دستهبندیها را فشرده کرده و حق بازنگری کنشگران متأثر را پیش از آنکه جایگاه رویهای پیدا کنند، سلب میکنند. از دیدگاه فنی، این پژوهش معیار «موفقیت» در همراستاسازی را تغییر میدهد؛ به جای تمرکز بر تنوع خروجی، باید بر «باز بودن وجودشناسانه» تمرکز کرد. این یعنی عبور از ارزیابیهای مبتنی بر امتیاز (Scoring) به سمت حسابرسیهای حاکمیتی (Governance-based audit) برای پذیرش معرفتی.
گام بعدی شما
- بررسی کنید آیا دستهبندیهای «تنوع» در مدل شما بر اساس جایگزینهای آماری است یا تعاریف مفهومی عمیق.
- مطالعهی چهارچوب PLG برای ارزیابی میزان باز بودن هستهی وجودشناسانهی مدلهای مورد استفاده.
- دنبال کردن بحثهای مربوط به گذار از RLHF به روشهای حاکمیتی در همراستاسازی.
اما پرسش حیاتی اینجاست که آیا این حسابرسیهای کیفی را میتوان بدون بازگشت به همان تسطیحِ پیشین، به ابزارهای نظارتی خودکار تبدیل کرد یا خیر.
گفتگو