یک مهارتِ آلوده در یک عامل هوش مصنوعی می‌تواند کل حساب معاملاتی شما را در چند ثانیه صفر کند. TRUE AI با تغییر تمرکز از «دقت مدل» به «قدرت اجرا»، تضمین می‌کند که هیچ عاملی، هرچقدر هم هوشمند باشد، نتواند معامله‌ای فراتر از محدودیت‌های سخت‌گیرانهٔ بقا انجام دهد.
سال‌هاست که صنعت معاملات هوش مصنوعی روی این موضوع متمرکز بود که آیا مدل می‌تواند نمودار را درست بخواند یا خیر. نگرانی اصلی «صحت» بود؛ این سؤال مطرح بود که آیا مدل می‌تواند بازار را درست بخواند؟ آیا می‌تواند از ارائه تحلیل‌های غلط اجتناب کند؟ اما حالا که عامل‌ها (Agents) — شبیه به دستیاران دیجیتالی که می‌توانند به‌جای شما دکمه‌ها را فشار دهند — از پیشنهاد معامله به اجرای واقعی آن رسیده‌اند، ماهیت خطر تغییر کرده است. زمانی که یک عامل اجازه دارد واقعاً معامله کند، نوع جدیدی از ریسک ظاهر می‌شود: لحظه‌ای که یک پرامپت بد، یک یکپارچه‌سازی (Integration) آسیب‌دیده، یا یک زنجیره نامنظم از فراخوانی ابزارها، به یک سفارش واقعی تبدیل می‌شود.
در این مرحله، آسیب دیگر یک جواب غلط در پنجرهٔ چت نیست، بلکه ضرری واقعی است که در حساب کاربر می‌نشیند. این دقیقاً همان مشکلی است که TRUE AI از ابتدا برای حل آن طراحی شده است. تبدیل شدن به یک دستیار معاملاتی واقعاً مفید، فقط به کیفیت تحلیل بستگی ندارد؛ بلکه به این بستگی دارد که وقتی چیزی در خط لوله (Pipeline) خراب می‌شود، چه چیزی بین آن تحلیل و پول شما قرار دارد تا از سرمایه محافظت کند.
چرخش در ماهیت ریسک
ریسک از «آیا مدل به اندازه کافی باهوش است» به «این مدل چه قدرتی دارد» تغییر کرده است. یک سیستم می‌تواند در یک دمو خیره‌کننده به نظر برسد، اما به محض اینکه فعال (Live) شود، خطرناک باشد. سؤال واقعی این نیست که آیا مدل در خواندن نمودارها خوب است یا خیر؛ بلکه این است که در لحظه‌ای که اجازه می‌یابد بر اساس خوانش خود عمل کند، چه اتفاقی می‌افتد؛ به‌ویژه زمانی که هم‌زمان در حال دریافت اخبار زنده، استفاده از مهارت‌های شخص ثالث و داده‌های خارجی است.
یک دستور بد که در هر کجای این زنجیره دفن شده باشد، می‌تواند تا مرحله اجرا پیش برود. وقتی این اتفاق می‌افتد، نتیجه به شکل یک پوزیشن واقعی، ریسک واقعی و پول واقعی ظاهر می‌شود. پژوهشگران این پدیده را «زیان ناشی از اجرا» (Execution-induced loss) می‌نامند؛ زیان‌هایی که نه بر اثر تحلیل بد، بلکه به دلیل پرامپت‌های غیرقابل اعتماد، روایت‌های دست‌کاری شده یا ابزارهای آلوده‌ای ایجاد می‌شوند که معاملات با پیامدهای مالی واقعی را فعال می‌کنند. این رویکرد به مدیریت خطاهای سیستمی شباهت دارد، مشابه آنچه در سیستم TrustGraph برای تبدیل علائم مدل‌ها به تحلیل ریشه‌ای دنبال می‌شود تا نقاط شکست دقیقاً شناسایی شوند.
این خطر در بازار فیوچرز کریپتو (Crypto Perpetual Futures) به‌شدت حاد است. این بازارها هرگز بسته نمی‌شوند و بر اهرم‌های بالا متکی هستند، به این معنی که یک خطای کوچک در اجرا می‌تواند پیش از آنکه انسانی بتواند مداخله کند، منجر به لیکوئید شدن کامل حساب شود. مکانیسم‌های مارجین، اشتباهات را سریعاً تنبیه می‌کنند؛ پوزیشنی که در یک بازار کندتر ممکن بود یک خطای جزئی باشد، در یک بازار اهرمی می‌تواند پیش از آنکه کسی متوجه شود اتفاقی افتاده، باعث نابودی حساب شود.
ایگور استادنیک (Igor Stadnyk)، هم‌بنیان‌گذار TRUE AI، معتقد است محتمل‌ترین شکست، یک هوش مصنوعی «سرکش» نیست، بلکه حمله به زنجیره تأمین است. او سناریویی را متصور است که در آن یک مهارتِ آلوده که از یک مارکت‌پلیس دریافت شده، به‌طور مخفیانه پارامترهای اجرا را در بدترین زمان ممکن تغییر دهد؛ به‌ویژه زمانی که اهرم و تلورانس لغزش قیمت (Slippage) تحت استرس بازار، هر دو رو به افزایش هستند. به باور استادنیک، برای ایجاد خسارت جدی به تعداد زیادی عامل نیاز نیست؛ تنها یک عامل با دسترسی‌های اجرایی و یک مهارت آلوده کافی است.
سازوکار اجرای آگاه از بقا
برای حل این مشکل، پژوهشگران TRUE AI و Inc4.net لایه‌ای کنترلی به نام اجرای آگاه از بقا (Survivability-Aware Execution یا SAE) توسعه دادند. این لایه به‌عنوان یک ایست بازرسی نهایی و غیرقابل‌دورزنی بین عامل و صرافی عمل می‌کند. در حالی که مدل هوش مصنوعی بازار را تحلیل می‌کند و مهارت‌های شخص ثالث سفارش را آماده می‌کنند، دروازه SAE درخواست نهایی را در برابر مجموعه‌ای از قوانین سخت و ثابت اعتبارسنجی می‌کند.
در سیستم TRUE AI، این دروازه هیچ مسیر جایگزینی (Bypass) ندارد، فارغ از اینکه کدام ماژول یا مهارت درخواست معامله را ارسال کرده باشد. این قوانین شامل موارد زیر است:
- محدودیت‌های سخت‌گیرانه برای میزان در معرض ریسک بودن (Exposure) و سقف‌های اهرم
- تلورانس‌های مجاز برای لغزش قیمت (Slippage)
- محدودیت نرخ (Rate limits) بر روی تعداد معاملات
- صرافی‌ها و ابزارهای تأییدشده
تفاوت کلیدی SAE در این است که به‌جای یک فیلتر ساده «اجازه یا مسدود کردن»، می‌تواند درخواست‌ها را برای «بقاپذیر» کردن بازنویسی کند. این رفتارِ «بازنویسی به‌جای رد کردن» دقیقاً همان چیزی است که TRUE AI برای نگه داشتن کاربران در معاملات طی شرایط نوسانی، به‌جای بیرون راندن آن‌ها از بازار، به آن تکیه می‌کند.
برای مثال، اگر یک مهارت آلوده یا یک سیگنال بد، درخواست اهرم ۵ برابر روی BTC با استفاده از نیمی از کل سبد در زمان نوسانات شدید را بدهد، SAE به‌سادگی آن را رد نمی‌کند. در عوض، اهرم را به ۱ کاهش می‌دهد، حجم پوزیشن را به ۲۰٪ می‌رساند، لغزش قیمت را سخت‌گیرانه‌تر می‌کند و یک دوره استراحت (Cooldown) کوتاه پیش از ارسال سفارش اضافه می‌کند. معامله همچنان اجرا می‌شود، اما در محدودیت‌هایی که حساب واقعاً بتواند از آن جان سالم به در ببرد.
کمی‌سازی شکاف ایمنی
اثربخشی این روش با استفاده از بازپخش آفلاین داده‌های Binance USD-M برای جفت‌ارزهای BTCUSDT و ETHUSDT از سپتامبر تا دسامبر ۲۰۲۵ آزمایش شد. نتایج نشان‌دهنده کاهش عظیم ریسک بدون قربانی کردن کاربرد است.
یافته‌های کلیدی این مطالعه عبارتند از:
- حداکثر ریزش سرمایه (Maximum Drawdown) از حدود ۴۶٪ (بدون SAE) به حدود ۳٪ با فعال بودن سیستم سقوط کرد.
- شاخص زیان «شکاف تفویض» (Delegation Gap) — زیان‌های ناشی از اقدام عامل‌ها فراتر از محدوده تعیین‌شده — از ۰.۶۴۷ به ۰.۰۱۹ کاهش یافت.
- نرخ موفقیت حملات از ۱.۰۰ به ۰.۷۲۸ افت کرد.
- شدت زیان‌های دنباله‌ای در صدک ۹۹ (CVaR) تقریباً ۹۷٪ بهبود یافت.
- نرخ مسدودسازی اشتباه (False-block rate) برای اقدامات قانونی روی صفر باقی ماند.
این نکته آخر بسیار حیاتی است. لایه ایمنی‌ای که نیمی از معاملات معتبر شما را می‌کشد، خود نوع دیگری از شکست است. این نتایج نشان می‌دهد که کنترل‌های اجرایی می‌توانند درخواست‌های مخرب یا اشتباه را جذب کنند، بدون اینکه به‌طور معناداری در مسیر انجام وظیفه اصلی عامل قرار گیرند. «ایمن بودن» لزوماً به معنای کند بودن یا غیرقابل استفاده بودن نیست؛ بلکه به این معناست که بدترین نتیجه ممکن، حتی زمانی که چیزی در مراحل بالادستی خراب می‌شود، محدود و کنترل‌شده باشد.
نویسندگان صراحتاً اشاره می‌کنند که این هنوز یک بازپخش آفلاین است و نه یک محیط تولید زنده. آن‌ها محدودیت‌های واقعی از جمله دقت بازپخش، واقع‌گرایی صرافی، متجاوزان تطبیقی، واقع‌گرایی زنجیره تأمین و نحوه عملکرد سیستم در رژیم‌های مختلف بازار را فهرست کرده‌اند. این هشدار ضروری است تا SAE به‌جای یک تلاش اولیه امیدوارکننده، به‌عنوان یک مسئله کاملاً حل‌شده تلقی نشود.
بستن شکاف تفویض
TRUE AI مفهوم «شکاف تفویض» را معرفی می‌کند؛ فاصله‌ای بین آنچه سیستم «قرار بود» انجام دهد و آنچه عامل، با توجه به ابزارها و مجوزهایش، «به‌طور فنی قادر» به انجام آن است. یک عامل نیاز ندارد کاملاً از مسیر خارج شود تا خسارت بزند؛ او فقط به فضای کافی نیاز دارد تا یک بار اقدام اشتباه انجام دهد.
این شکاف با گسترده‌تر شدن اکوسیستم‌های عامل افزایش می‌یابد. مقاله به تعداد رو به رشد مارکت‌پلیس‌های مهارت اشاره می‌کند که در آن قابلیت‌های جدید می‌توانند به جریان کاری عامل اضافه شوند. در حالی که این موضوع برای توزیع ابزارها مفید است، هر مهارت اضافه‌شده، یک حلقه دیگر در زنجیره است که نیاز به بررسی دقیق دارد. TRUE AI با هر مهارت شخص ثالث به‌عنوان بخشی از سطح حمله در حال گسترش برخورد می‌کند و آن‌ها را به‌صورت پیش‌فرض «نامعتبر» (Untrusted) تلقی می‌کند.
با این رویکرد، TRUE AI تضمین می‌کند که مجوزهای فنی عامل هرگز از قصد واقعی کاربر فراتر نرود. سیستم، تحلیل را از اجرا جدا می‌کند؛ در حالی که یک پیشنهاد غلط ارزان تمام می‌شود، یک اقدام غلط که صرافی را رد کرده است، ارزان نیست. بنابراین، این دو هرگز با سطح یکسانی از اعتماد مورد对待 قرار نمی‌گیرند.
پیامدهای گسترده‌تر برای عامل‌های هوش مصنوعی
این معماری نشان‌دهنده یک چرخش گسترده‌تر برای تمام سیستم‌های عامل‌محور است. اگرچه دامنه این مقاله روی کریپتو متمرکز است، اما سؤال بنیادی به هر سیستمی که در آن یک عامل می‌تواند در دنیای واقعی اقدام کند، تعمیم می‌یابد. نویسندگان صراحتاً پرداخت‌ها، عملیات ابری و تدارکات را به‌عنوان مکان‌های بعدی نام می‌برند که این نوع گارد اجرایی در آن‌ها اهمیت خواهد داشت.
هر جا که یک مدل زبانی بزرگ (LLM) از «این چیزی است که پیشنهاد می‌کنم» به «این کاری است که همین الان انجام دادم» حرکت کند، همان سؤال تکرار می‌شود: چه کسی یا چه چیزی حرف آخر را پیش از وقوع عمل می‌زند؟ برای TRUE AI، پاسخ یک لایه اجرایی غیرقابل‌دورزنی است. این یک گزینه اختیاری نیست؛ اگر پول واقعی در میان باشد، دروازه بین تصمیم و عمل باید هر بار، و نه بیشتر از هر بار، پایداری کند.
برای هر کسی که از TRUE AI استفاده می‌کند، این به معنای موارد زیر است:
- تحلیل و اجرا در سطوح متفاوتی از اعتماد اجرا می‌شوند.
- مهارت‌های شخص ثالث به‌طور پیش‌فرض نامعتبر هستند تا سطح حمله کلی محدود شود.
- رد کردن تنها پاسخ نیست؛ درخواست‌ها برای بقاپذیر شدن، مقیاس‌بندی (Scale down) می‌شوند.
- شکاف تفویض به‌عنوان چیزی تلقی می‌شود که باید به‌طور مداوم اندازه‌گیری و بسته شود.
تیم‌های زیادی در رقابت هستند تا عامل‌ها را توانمندتر کنند. اما تعداد کمی می‌پرسند در لحظه‌ای که درست پیش از اقدام این عامل‌هاست، چه اتفاقی باید بیفتد. آن لحظه — لحظه‌ای که یک تصمیم به یک معامله تبدیل می‌شود — دقیقاً جایی است که TRUE AI توجه خود را معطوف کرده تا راهی واقعاً ایمن‌تر برای اجازه دادن به هوش مصنوعی برای معامله به‌جای شما ایجاد کند.
گام بعدی شما
- اگر از عامل‌های معاملاتی استفاده می‌کنید، بررسی کنید آیا لایه‌ای برای محدود کردن حداکثر اهرم (Leverage) در سطح API دارید یا خیر.
- در طراحی سیستم‌های عامل‌محور، تحلیل (Analysis) و اجرا (Execution) را در دو سطح دسترسی متفاوت قرار دهید.
- هر ابزار یا مهارت شخص ثالث را به‌عنوان یک سطح حمله (Attack Surface) در نظر بگیرید و دسترسی‌های آن را محدود کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو