تصور کنید مؤسس یک استارتاپ SaaS با اطمینان به امتیاز «۹۵٪ آماده» در ابزار انطباق خود، وارد مذاکره با یک مشتری سازمانی می‌شود، اما معامله زمانی متوقف می‌شود که بازبین امنیتی متوجه یک پاسخ ساختگی درباره بازه‌های زمانی بررسی دسترسی می‌شود. در این لحظه، مؤسس دیگر «۹۵٪ آماده» به نظر نمی‌رسد، بلکه کسی است که حتی وضعیت امنیتی خودش را نمی‌شناسد. این شکست ممکن است باعث شود معامله برای یک فصل متوقف شود یا به‌طور کلی از بین برود.
این شکست به این دلیل رخ می‌دهد که مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — در بیان مطالب روان هستند اما لزوماً به واقعیت متصل نیستند. آن‌ها به‌جای نقل دقیق الزامات، کنترل‌های امنیتی را بر اساس آنچه به‌طور تقریبی به یاد می‌آورند، بازنویسی می‌کنند. بازبینی‌کننده‌ای که هر هفته این گزارش‌ها را می‌خواند، می‌تواند یک تعریف اشتباه را در ۵ ثانیه شناسایی کند و این یعنی کل اعتبار شرکت در یک لحظه از بین می‌رود.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی توهمات مدل‌های زبانی اشاره کردیم، روان بودن پاسخ نباید با صحت آن اشتباه گرفته شود. این چالش تنها محدود به متون اداری نیست و پیش‌تر دیدیم که چگونه توهمات در عامل‌های کدنویس منجر به ورود کدهای معیوب به سیستم‌ها شد. ابزارهای انطباق فعلاً بر سر «گستردگی» رقابت می‌کنند — یعنی ارائه ادغام‌ها و چارچوب‌های بیشتر — اما این ویژگی‌ها در برابر تنها آزمونی که واقعاً اهمیت دارد، ثانویه هستند: آیا پاسخ مدل در برابر یک سؤال خصمانه از تیم امنیتی خریدار دوام می‌آورد؟ در محیط‌های حساس مانند آمادگی برای SOC 2، یک اشتباه با اعتمادبه‌نفس بالا، به قیمت از دست رفتن اعتماد مشتری تمام می‌شود. امتیاز «۹۵٪» در واقع یک ویژگی نیست، بلکه یک ریسک است که در لباس اطمینان‌بخش ارائه شده است.
خواننده‌ی خصمانه
مدل‌های زبانی به دلیل تسلط بر زبان، مستعد بازنویسی بدِ متونی هستند که باید دقیقاً نقل شوند. در حالی که یک مدل عمومی می‌تواند پاسخی تولید کند که «درست به نظر برسد»، دنیای انطباق یک «خواننده خصمانه» داخلی دارد: تیم امنیتی خریدار. تمام شغل آن‌ها این است که شکاف بین آنچه یک شرکت ادعا می‌کند و آنچه واقعاً می‌تواند ثابت کند را پیدا کنند. یک پاسخ بدون مبنا اما با اعتمادبه‌نفس بالا، راحت‌ترین چیزی است که آن‌ها می‌توانند به عنوان نقص علامت‌گذاری کنند.
طبق گزارش منتشر شده در ۷ اکتبر ۲۰۲۶ توسط مؤسس و توسعه‌دهنده Attestlane، راهکار این «شکست خاموش»، استفاده از مدل‌های هوشمندتر نیست، بلکه اجرای یک فرآیند خسته‌کننده به نام مبنی‌سازی (Grounding) است. مبنی‌سازی — شبیه به این است که از یک دانش‌آموز بخواهیم به‌جای حفظ کردن، پاسخ را با ارجاع به صفحه و خط کتاب درسی بنویسد — باعث می‌شود مدل به واقعیت متصل شود. پیاده‌سازی فنی این امر مستلزم یک قانون سخت‌گیرانه است: هر پاسخ هوش مصنوعی باید با متن واقعی معیارها از فایل‌های چارچوب موجود در دیسک تزریق شود.
سازوکار مبنی‌سازی
برای جلوگیری از توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — سیستم باید از یک گردش‌کار محدود پیروی کند:
- جست‌وجو: سیستم با دستور
frameworks.lookup(control_id)متن واقعی را از حافظه دیسک بازیابی می‌کند. - امتناع: اگر کنترل مورد نظر پیدا نشد، مدل باید بگوید «من معیار مربوط به این شناسه را ندارم» و هرگز نباید حدس بزند.
- محدودیت: در پرامپت سیستمی (System Prompt) باید صراحتاً دستور داده شود که مدل فقط و فقط از متن ارائه شده پاسخ دهد؛ اگر سؤال فراتر از متن بود، مدل باید صراحتاً این موضوع را اعلام کند.
- اجرا: پاسخ نهایی از طریق
model.respond(question, grounding=control.text)تولید می‌شود.
این رویکرد، نقش هوش مصنوعی را از یک نویسنده خلاق به یک موتور بازیابی دقیق تغییر می‌دهد. برای کاربر، این یعنی هر ابزار آمادگی — چه یک پلتفرم AI، چه ابزار رقیب و چه یک جدول پیچیده — اگر نتواند نقل‌قول مستقیمی از چارچوب‌های قانونی ارائه دهد، بی‌فایده است. هدف باید «خسته‌کننده و درست بودن» باشد، نه «روان و غلط بودن». داشبورد «۹۵٪ منطبق» اگر نتواند منبع پاسخ‌های خود را ذکر کند، یک ریسک است.
باید به خاطر داشت که ابزارهای آمادگی، جایگزین حسابرسی نیستند. یک شرکت CPA دارای مجوز همچنان باید بررسی نهایی را برای صدور گزارش SOC 2 انجام دهد؛ هر ابزاری که ادعا کند می‌تواند جایگزین این فرآیند شود، بیش از حد وعده داده است. Attestlane که به‌صورت تک‌نفره در فریتون، سیرا لئون ساخته شده، همین اصل صداقت را جایگزین وعده‌های توخالی کرده است.
گام بعدی شما
- اگر در حال آماده‌سازی برای حسابرسی امنیتی هستید، بررسی کنید که ابزارهای شما از تولید بازیابی‌افزا (RAG) — مثل دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند — استفاده می‌کنند یا صرفاً به دانش کلی مدل متکی هستند.
- ابزار خود را به چالش بکشید: برای پیچیده‌ترین کنترل امنیتی خود، درخواست مدرک کنید و اصرار کنید که منبع دقیق آن را نقل کند.
- هر امتیازی که بدون ارجاع به متن منبع ارائه شده را نادیده بگیرید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو