اگر در حال ساخت عامل‌های هوش مصنوعی هستید که مدام با اطمینان کامل اشتباه می‌کنند، مشکل شما کمبود هوش نیست، بلکه نبود اصطکاک ساختاری است. در ۹ ژوئن ۲۰۲۶، جزئیات چارچوب A11 منتشر شد؛ روشی برای جلوگیری از جهش‌های خاموش مدل از «مشاهده» به «نتیجه‌گیری» بدون طی کردن مراحل تأیید.
بیشتر سامانه‌های استدلالی مدرن شکست می‌خورند چون آنچه را مشاهده می‌کنند با آنچه فرض می‌کنند وجود دارد، یکی می‌گیرند. این فروپاشی منجر به ادعاهای بی‌اساس و بستن زودهنگام پرونده‌ی مسائل باز می‌شود. تصور کنید یک GPS نه تنها مسیر اشتباهی را نشان دهد، بلکه وقتی نقشه کاملاً سفید است، با اطمینان اصرار کند که جاده وجود دارد؛ این دقیقاً همان نقطه‌ی شکست است که A11 هدف قرار می‌دهد.
مشکل اصلی
سامانه‌های هوش مصنوعی مدرن و انسان‌ها به‌طور منظم دچار این خطا می‌شوند که فاصله میان «تجربه» و «پس‌زمینه/بودن» را از بین می‌برند. نتیجه این امر، تولید نتایج توهمی و ناتوانی در تشخیص لحظه‌ای است که یک جهش از مشاهده به نتیجه‌گیری رخ داده است. A11 برای جلوگیری صریح از این اتفاق طراحی شده است. این کار از طریق معرفی یک چارچوب استدلالی ساختاریافته انجام می‌شود که اولویت آن «جلوگیری از قطعیت کاذب» است، نه «تولید سریع پاسخ‌ها».
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مشکل اصلی در لایه‌های پنهان استدلال است. در این چارچوب، مدل استدلالی (Reasoning Model) — شبیه شطرنج‌بازی که قبل از هر حرکت، چند گام جلوتر را می‌بیند — یاد می‌گیرد که بین تجربه و واقعیت فاصله بگذارد.
به نقل از مستندات منتشر شده در dev.to، سیستم A11 از طریق یک خط لوله ۱۱ مرحله‌ای سخت‌گیرانه عمل می‌کند. این سیستم تفاوت میان شکاف‌های معرفتی (خطا در دانش) و شکاف‌های هستی‌شناختی (ماهیت خودِ واقعیت) را تفکیک می‌کند. سیستم یک توالی خاص را تحمیل می‌کند:
جریان منطقی A11
- S1 تا S3 (بنیاد): تعیین اراده (S1)، حکمت/محدودیت‌ها (S2) و دانش/حداقل فرض‌ها (S3). مرحله S2 به‌طور خاص تضمین می‌کند که «تغییرات کمتر» لزوماً به معنای «نزدیک‌تر شدن به واقعیت» نباشد، مگر اینکه دلایل قابل اثباتی وجود داشته باشد.
- S4 (درک): مرحله حیاتی «یکپارچگی». در اینجا بررسی‌های تراز-سازی انجام می‌شود، تنش‌ها شناسایی شده و «بستن کاذب» — یعنی ادعای حقیقت قطعی در جایی که داده‌ها ناقص هستند — به‌شدت ممنوع است. در این مرحله این پرسش مطرح می‌شود: «A11 دقیقاً چگونه بر انواع مختلف شکاف‌ها (معرفتی در برابر هستی‌شناختی) تأثیر می‌گذارد؟»
- S5 تا S7 (پروژکتیو): مرحله S5 (آزادی پروژکتیو) مدل‌ها را از طریق فشرده‌سازی معرفتی ایجاد می‌کند. S6 (محدودیت پروژکتیو) خاطرنشان می‌کند که هیچ راهی برای تأیید «دسترسی مستقیم» وجود ندارد. S7 (تعادل) تضمین می‌کند که تضادهای داخلی کاهش یابند بدون اینکه کانال‌های ادراکی جدیدی معرفی شوند.
- S8 تا S10 (کاربردی): مرحله S8 (آزادی کاربردی) امکان جداسازی تجربه، تفسیر و نتیجه‌گیری را فراهم می‌کند. S9 (محدودیت کاربردی) وابستگی به همان سیستم مشاهده را می‌پذیرد. S10 (بنیاد) پشتیبانی منطقی لازم را فراهم می‌آورد.
- S11 (تحقق): تولید نتیجه نهایی که می‌تواند یک پاسخ اصلاح‌شده، دستور شروع مجدد یا پذیرش رسمیِ «بی‌جواب بودن» باشد.
مکانیسم‌های دقیق یکپارچگی
برای حفظ یکپارچگی ساختاری، A11 در مرحله S4 از مکانیسم‌های خاص زیر استفاده می‌کند:
- بررسی تراز (Alignment Check): تأیید جهت اراده در برابر محدودیت‌ها.
- تشخیص تنش (Tension Detection): شناسایی تضادها میان داده‌ها و تفسیرها.
- شکاف تقلیل‌ناپذیر: پذیرش این واقعیت که استدلال بهبودیافته، به معنای دسترسی بهبودیافته به هستی‌شناسی نیست.
- بستن ممنوعه: ممنوعیت ادعاهایی نظیر «A11 دسترسی به خودِ بودن/هستی را فراهم می‌کند».
- تولید S1 جدید: تکرار و بازنگری اراده بر اساس شکاف‌های شناسایی شده.
بر اساس مستندات فنی، A11 ادعا نمی‌کند که دسترسی مستقیم به حقیقت مطلق را فراهم می‌کند. در عوض، هدف آن دستیابی به یک «بهبود مجانبی» در توصیف است. این سیستم با کاهش تضادهای داخلی و افشای جهش‌های منطقی پنهان، لنز ادراک هوش مصنوعی را پاک می‌کند، بدون اینکه تظاهر کند لنز حذف شده است. A11 تشخیص می‌دهد که اگرچه اعوجاج‌ها را می‌توان تا بی‌نهایت کاهش داد، اما دسترسی مستقیم به «پس‌زمینه» هرگز حاصل نمی‌شود، زیرا مشاهده همیشه میانجی‌گری شده است.
برای توسعه‌دهندگان، هدف از «یافتن پاسخ درست» به «جلوگیری از معتبر به نظر رسیدن پاسخ غلط» تغییر می‌کند. در محیط‌های عملیاتی، این یعنی هوش مصنوعی وقتی به یک شکاف تقلیل‌ناپذیر در داده‌ها می‌رسد، حدس نمی‌زند. این امر پایداری استدلال در مقیاس بزرگ را به‌طور قابل توجهی افزایش می‌دهد. این تغییر، چرخه ساده‌ی «مشاهده $
ightarrow$ نتیجه» را به یک فرآیند کنترل‌شده‌ی «مشاهده $
ightarrow$ تفسیر $
ightarrow$ تنش $
ightarrow$ شکاف $
ightarrow$ استدلال کنترل‌شده» تبدیل می‌کند.
این رویکرد ساختاری نشان می‌دهد که استدلال بهتر، به معنای دسترسی بیشتر به واقعیت نیست، بلکه به معنای ادعاهای توجیه‌نشده‌ی کمتر درباره آن است. A11 شکاف معرفتی را کم می‌کند — یعنی خطاها و تضادها را کاهش می‌دهد — اما شکاف هستی‌شناختی را از بین نمی‌برد. جدایی بنیادین همچنان باقی است.
گام بعدی شما
- مخزن Algorithm 11 در گیت‌هاب را بررسی کنید تا این مکانیسم‌های یکپارچگی را در لایه‌ی منطق یا پرامپت مدل خود بگنجانید.
- ساختار JSON پیشنهادی را برای مدل‌ها پیاده‌سازی کنید؛ به گونه‌ای که مراحل S1-S3 به «هسته» (Core)، مرحله S4 به «یکپارچگی» (Integrity) و مراحل S5-S10 به «مراحل عملیاتی» (Operational) نگاشت شوند و در نهایت به نتایج S11 ختم گردند.
- خروجی‌های مدل خود را برای شناسایی «پذیرش بی‌جواب بودن» (S11) به جای پاسخ‌های حدسی تنظیم کنید.
اما تأثیر این لایه‌بندی بر هزینه‌های پردازشی در مقیاس بزرگ، بحثی پیچیده‌تر است — به تحلیل ما درباره‌ی بهینه‌سازی هزینه‌های استنتاج مراجعه کنید.
گفتگو