گزارش آنتروپیک: مسدودسازی ده‌ها هزار حساب برای توقف حملات تقطیری

اگر شما یک توسعه‌دهنده هستید که سعی دارد مدل‌های کوچک‌تر را با استفاده از خروجی‌های مدل‌های پیشرو آموزش دهد، باید بدانید که فضای بازی تغییر کرده است. آنتروپیک در ۱۳ اکتبر ۲۰۲۶ دفاعاتی را مستقر کرد که حجم استخراج توکن‌های استدلالی (Reasoning Tokens) را بین ۹۰ تا ۹۹ درصد کاهش داد.

این توکن‌ها در واقع همان زنجیره تفکر (Chain-of-Thought) — شبیه وقتی شاگرد ریاضی پای تخته بلند بلند فکر می‌کند تا به جواب برسد — هستند که اکنون به هدف اصلی شرکت‌هایی تبدیل شده‌اند که می‌خواهند قابلیت‌های سطح بالای هوش مصنوعی را در مدل‌های کوچک‌تر و غیرمجاز بازسازی کنند.

همان‌طور که در تحلیل قبلی ما درباره‌ی تکثیر مدل‌های کوچک در دستگاه‌های IoT اشاره کردیم، رقابت برای ساخت مدل‌های بهینه اکنون به یک جنگ امنیتی میان آزمایشگاه‌های پیشرو و رقبای آن‌ها تبدیل شده است. این فرآیند که به آن تقطیر (Distillation) می‌گویند، در واقع تلاش برای استخراج «دانش» مدل بزرگ و تزریق آن به مدل کوچک است.

به گزارش the-decoder.com و بر اساس پست رسمی Anthropic، مهاجمان از شبکه‌هایی متشکل از صدها هزار حساب جعلی برای مکش داده‌ها استفاده می‌کردند. این رویکرد سخت‌گیرانه در مدیریت دسترسی‌ها، پس از آن می‌آید که این شرکت به دلیل نگرانی‌های امنیتی، دسترسی اینترنت زنده را برای مدل‌های آزمایشی خود محدود کرد. این شرکت به‌طور مشخص از شرکت‌های چینی Zhipu و Moonshot نام برد. طبق این گزارش، Zhipu از این قابلیت‌های سرقتی برای مدل GLM-5.3 خود استفاده کرده و Moonshot پرس‌وجوهای خود را به‌صورت مخفیانه از طریق کلود مسیریابی می‌کرد.

برای متوقف کردن این نشت‌ها، Anthropic سه مکانیزم اصلی را پیاده کرد:

• محدود کردن دسترسی به مراحل استدلال داخلی.
• استقرار یک طبقه‌بندی‌کننده برای شناسایی الگوهای استخراج در لحظه.
• مسدودسازی خودکار حساب‌های مشکوک که منجر به بن شدن ده‌ها هزار اکانت شد.

این چرخش نشان می‌دهد که دیگر فقط «وزن‌های مدل» دارایی ارزشمند نیستند، بلکه خودِ «فرآیند استدلال» به یک راز تجاری تبدیل شده است. برای کاربران تجاری، این یعنی نظارت سخت‌گیرانه‌تر بر حساب‌ها و ریسک بالاتر بن شدن تصادفی در صورتی که الگوی استفاده آن‌ها شبیه به استخراج خودکار باشد.

اکنون از سایر توسعه‌دهندگان خواسته شده تا حفاظ‌های مشابهی را برای جلوگیری از نشت قابلیت‌های پیشرو به سیستم‌های نظامی یا نظارتی خارجی به کار بگیرند.

گام بعدی شما

• اگر از APIهای مدل‌های استدلالی استفاده می‌کنید، الگوهای فراخوانی خود را بررسی کنید تا شبیه به رفتارهای استخراج داده نباشد.
• تغییرات احتمالی در سیاست‌های دسترسی OpenAI و گوگل را در هفته‌های آینده دنبال کنید.
• برای کاهش وابستگی به مدل‌های بسته، روی داده‌های آموزشی باکیفیت و اختصاصی تمرکز کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.