تصور کنید یک بازوی رباتیک باید در محیطی شلوغ حرکت کند، اما حتی یک میلی‌متر برخورد با موانع می‌تواند منجر به فاجعه شود. در چنین شرایطی، «تلاش مدل برای رعایت قانون» کافی نیست؛ شما به تضمین ۱۰۰ درصدی نیاز دارید.
طبق مقاله‌ای که در نشریه IEEE Transactions on Pattern Analysis and Machine Intelligence منتشر شد، پژوهشگران MIT الگوریتمی به نام HardFlow را معرفی کرده‌اند که مدل‌های هوش مصنوعی زاینده (Generative AI) را مجبور می‌کند بدون کاهش کیفیت خروجی، از قوانین سخت‌گیرانه و غیرقابل‌تغییر پیروی کنند. این متد که تحت عنوان «HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization» منتشر شده است، تضمین می‌کند که خروجی‌های حساس — مانند مسیر حرکت یک ربات — در هر بار اجرا، تمام محدودیت‌های تعریف‌شده را رعایت کنند.
بسیاری از سیستم‌های فعلی که خروجی‌ها را گام‌به‌گام می‌سازند، مانند سیستم‌های مورد استفاده در رباتیک یا ویرایش تصویر، با محدودیت‌های «سخت» (Hard Constraints) مشکل دارند. این‌ها قوانینی هستند که هیچ استثنایی نمی‌پذیرند، برخلاف قوانینی که مدل صرفاً سعی می‌کند به آن‌ها نزدیک شود. مدل‌های فعلی معمولاً سعی می‌کنند این قوانین را تقریب بزنند یا هر گام میانی را مجبور به رعایت قانون کنند؛ اتفاقی که اغلب توانایی مدل در یافتن بهینه‌ترین یا باکیفیت‌ترین راه حل را محدود می‌کند. این وضعیت تضادی میان «رعایت قانون» و «کیفیت نتیجه» ایجاد می‌کند.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ایمنی مدل‌های مولد اشاره کردیم، ایجاد حفاظ‌های سخت‌افزاری یا نرم‌افزاری بدون تخریب خلاقیت مدل، یکی از بزرگ‌ترین چالش‌های استقرار صنعتی AI است. این دغدغه با واقعیت‌های بازار همسو است، چرا که بسیاری از مدیران فناوری معتقدند سرعت استقرار هوش مصنوعی از توسعه زیرساخت‌های امنیتی پیشی گرفته است.
HardFlow این مشکل را با بازتعریف مسئله‌ی رعایت محدودیت‌ها به عنوان یک مسئله‌ی «کنترل» حل می‌کند. مدل‌های مورد بحث از تکنیکی به نام تطبیق جریان (Flow Matching) استفاده می‌کنند که خروجی را — مانند یک تصویر یا برنامه حرکتی ربات — از یک حالت تصادفی شروع کرده و به‌تدریج با استفاده از یک «میدان سرعت» (Velocity Field) آموخته‌شده که فرآیند را در هر گام به جلو می‌راند، به سمت نتیجه نهایی هدایت می‌کند.
به جای نظارت بر تک‌تک گام‌های فرآیند تولید، HardFlow تغییرات کوچک در میدان سرعت را به عنوان کنترل‌های قابل تنظیم در نظر می‌گیرد. این الگوریتم فرآیند را به توالی کوتاهی از مسائل تک‌گامی تبدیل می‌کند که یکی پس از دیگری حل می‌شوند. نکته کلیدی این است که قانون تنها در آخرین گام تولید باید برقرار باشد؛ این رویکرد به مدل آزادی عمل می‌دهد تا در مراحل میانی، فضای احتمالات را برای یافتن باکیفیت‌ترین پاسخ جست‌وجو کند.
زه‌یانگ لی (Zeyang Li)، دانشجای دکتری مهندسی مکانیک در آزمایشگاه سیستم‌های اطلاعاتی و تصمیم‌گیری MIT، به همراه کاوه علیم و نوید عزیزان، استادیار دپارتمان مهندسی مکانیک MIT و مؤسسه داده‌ها، سیستم‌ها و جامعه (IDSS)، توسعه‌دهندگان این روش هستند. لی توضیح می‌دهد: «در مسئله‌ی رعایت محدودیت‌ها، آنچه در نهایت اهمیت دارد خروجی نهایی مدل است، زیرا فرآیند داخلی دور ریخته می‌شود. با حذف الزام رعایت قانون در هر گام میانی، مدل آزادی بیشتری برای یافتن راهکارهای باکیفیت اما در نهایت امکان‌پذیر پیدا می‌کند.»
بر اساس مستندات این پژوهش، تیم HardFlow را در برابر ۶ روش رقیب در چهار تسک شبیه‌سازی‌شده آزمایش کرد. اکثر رقبایی که از روش‌های «تصویر کردن» (Projection) استفاده می‌کردند، قانون را در هر گام بررسی می‌کردند یا از سیگنال‌های هدایتی برای تغییر مسیر استفاده می‌کردند.
نتایج این بنچمارک‌ها به شرح زیر است:
- دست‌کاری رباتیک: در محک D3IL، یک بازوی شبیه‌سازی‌شده باید اشیا را جابه‌جا می‌کرد بدون اینکه با موانع برخورد کند. HardFlow سریع‌ترین مسیرها را با نرخ موفقیت ۱۰۰ درصدی در اجتناب از موانع یافت، در حالی که رقبایش یا با موانع برخورد کردند یا مسیرهای بسیار طولانی‌تری را طی کردند.
- ناوبری در هزارتو: تست توانایی مدل در یافتن مسیرهای معتبر در مرزهای هندسی سخت‌گیرانه با استفاده از شبیه‌ساز Maze2D.
- کنترل فرآیندهای فیزیکی: مدیریت شرایط مرزی در یک فرآیند فیزیکی شبیه‌سازی‌شده.
- ویرایش تصویر: تغییر تصاویر بر اساس دستورات متنی با رعایت محدودیت‌های بصری خاص.
در تمامی این تست‌ها، HardFlow قوانین را به‌طور کامل رعایت کرد و نتایجی با کیفیت بالاتر از سایر روش‌ها ارائه داد. نکته حائز اهمیت این است که زمان محاسبات در این روش، مشابه یا حتی کمتر از متدهای موجود بود.
از آنجا که این الگوریتم به عنوان یک «پوشش» (Wrapper) دور فرآیند تولید عمل می‌کند، می‌توان آن را مستقیماً روی مدل‌هایی که پیش‌تر آموزش دیده‌اند اعمال کرد. این یعنی برای پیاده‌سازی قوانین ایمنی یا فیزیکی جدید، نیازی به تنظیم دقیق (Fine-tuning) یا بازآموزی هزینه‌بر مدل نیست. این رویکرد به نوعی مشابه استراتژی‌های مدیریت Context در مقیاس سازمانی است که رهبران مهندسی برای بهینه‌سازی استقرار GenAI به کار می‌برند.
از منظر فنی، این دستاورد فرضیه رایج مبنی بر وجود یک «موازنه» (Trade-off) میان رعایت محدودیت‌ها و کیفیت خروجی را به چالش می‌کشد. نوید عزیزان اشاره می‌کند که در حالی که دنیای واقعی مرزهای مشخصی برای احتمالات پذیرفته‌شده دارد، این رویکرد قدرت مولد مدل را حفظ کرده و هم‌زمان الزامات غیرقابل‌مذاکره را برای کاربردهای حساس به ایمنی تضمین می‌کند.
با این حال، باید اشاره کرد که این نتایج فعلاً در محیط شبیه‌سازی به‌دست آمده‌اند. پژوهشگران هنوز HardFlow را روی سخت‌افزار فیزیکی یا در محیط‌های عملیاتی تست نکرده‌اند. تمام نتایج گزارش‌شده از شبیه‌سازهای D3IL، Maze2D و تسک‌های کنترل فیزیکی و ویرایش تصویر استخراج شده است.
علاوه بر این، این متد به تخمینی از خروجی نهایی در میانه فرآیند تولید وابسته است. تضمین‌های تئوریک آن به کران‌های ریاضی خاص هر مسئله بستگی دارد، به این معنا که رکورد «بی‌نقص» در این چهار بنچمارک، لزوماً به تمام محیط‌های دنیای واقعی تعمیم نمی‌یابد.
همچنین پرسش‌هایی درباره دامنه کاربرد این روش وجود دارد. در حالی که HardFlow در محدودیت‌های هندسی و فیزیکی عالی عمل می‌کند، مشخص نیست که آیا می‌تواند قوانین ایمنی «مبهم» و سخت‌در-فرمول‌بندیِ مدل‌های زبانی بزرگ (LLM) را مدیریت کند یا خیر. همچنین نامشخص است که آیا این رویکرد برای خانواده‌های دیگر مدل‌های مولد، مانند مدل‌های خودبازگشتی (Autoregressive)، کاربرد دارد یا خیر.
تاکنون هیچ آزمایشگاه مستقلی این نتایج را خارج از تیم MIT بازتولید نکرده است. تنها تاییدیه موجود، فرآیند داوری تخصصی (Peer-review) مجله IEEE است که متدولوژی و ارائه را ارزیابی می‌کند، نه لزوماً اجرای مجدد آزمایش‌ها. پژوهشگران قصد دارند در نسخه‌های آینده، به‌روزرسانی خودِ مدل AI را هم‌زمان با گام اجرای محدودیت‌ها بررسی کنند تا هم میزان انطباق و هم کیفیت خروجی را ارتقا دهند.
گام بعدی شما
- اگر در حال توسعه سیستم‌های کنترل رباتیک یا اتوماسیون صنعتی هستید، مقاله HardFlow را برای جایگزینی متدهای Projection مطالعه کنید.
- بررسی کنید که آیا محدودیت‌های سیستم شما را می‌توان به صورت توابع ریاضی (Hard Constraints) تعریف کرد تا از این متد بهره ببرید.
- منتظر گزارش‌های مربوط به استقرار این الگوریتم روی سخت‌افزارهای فیزیکی باشید تا میزان افت عملکرد در دنیای واقعی مشخص شود.
اما چالش‌های سخت‌افزاری برای اجرای چنین کنترل‌های دقیقی در لبه (Edge) حتی پیچیده‌تر است — به تحلیل ما درباره‌ی رایانش لبه در سیستم‌های خودمختار مراجعه کنید.
گفتگو