اگر شما برنامهنویس یا مدیر محصول هستید، احتمالاً با توهماتی مواجه شدهاید که با اطمینانی کامل ارائه میشوند. این مشکل، نه از کمبود هوش، بلکه از فروپاشی زنجیره استدلال میآید.
بسیاری از سیستمهای فعلی، چه انسانی و چه ماشینی، بهسرعت از شواهد به نتیجه میرسند. طبق گزارشی که در ۹ ژوئن ۲۰۲۶ در وبسایت dev.to منتشر شد، این «قطعیت کاذب» عامل اصلی ایجاد نتایج توهمآمیز است. در این میان، توهم (Hallucination) — وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی است که خاطرهای را اشتباه تعریف میکند.**
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، مدیریت خروجیهای غیرقابلپیشبینی یک چالش حیاتی است. چارچوب A11 (Algorithm 11) برای حل این مسئله، روی یک مدل استدلالی (Reasoning Model) اثر میگذارد؛ مدلی که قبل از جواب، یک قدم درنگ میکند و فکر میکند — درست مثل شطرنجبازی که چند حرکت جلوتر را میبیند.
این سیستم از یک خط لوله ساختاری ۱۱ مرحلهای (S1 تا S11) استفاده میکند. طبق مستندات این پروژه، حیاتیترین بخش آن S4 Integrity Mechanism است. این لایه وظیفه دارد تضادها و «بستارهای ممنوعه» را پیش از رسیدن به نتیجه نهایی شناسایی کند. جریان عملیات به این صورت است:
- مراحل S1 تا S3: تعریف ورودیها، اراده و دانش.
- مرحله S4: درک، بررسی همراستاسازی و نقشهبرداری از شکافهای منطقی.
- مراحل S5 تا S7: آزادی پیشبینانه و انتخاب مدلهای مناسب.
- مراحل S8 تا S11: آزادی عملیاتی و تحقق نهایی پاسخ.
برای اینکه مدل در لحظه استنتاج (Inference) — یعنی همان لحظهای که واقعاً جواب تولید میکند، شبیه به خودِ آشپزی نه دورهی آموزش آشپز — منطق خود را حفظ کند، A11 از نمایش دادههای JSON استفاده میکند. این کار باعث میشود مدلها هرگز تفاسیر شخصی را بهعنوان حقیقت عینی تلقی نکنند.
تحلیل ما نشان میدهد که A11 هدف هوش مصنوعی را از «پاسخجویی» به «خطایابی» تغییر میدهد. این سیستم میپذیرد که استدلال بهتر، لزوماً دسترسی به حقیقت مطلق نیست، بلکه تولید توصیفاتی پاکتر و بدون ادعاهای بیاساس است.
گام بعدی شما
- منطق این چارچوب را در مخزن A11 GitHub بررسی کنید.
- لایههای S4 را در گردشکارهای عاملمحور خود برای شناسایی تضادها پیاده کنید.
- تمرکز خود را از «پیدا کردن پاسخ درست» به «جلوگیری از پذیرش پاسخ غلط» تغییر دهید.
اما این لایههای منطقی روی چه سختافزاری اجرا میشوند؟ تحلیل ما دربارهی تراشههای Blackwell را بخوانید.
گفتگو