تیم قرمز مرزی انتروپیک (Frontier Red Team) در سوم نوامبر ۲۰۲۶ سیستم فلش‌پروف (FlashProve) را منتشر کرد. این سیستم zkSNARK متن‌باز یک مدل ۴۰۰ میلیارد پارامتری را روی یک GPU H100 تکی با سرعت ۱۱۰ توکن در ثانیه اثبات می‌کند.
چگونه فلش‌پروف کار می‌کند
فلش‌پروف در دو فاز اجرا می‌شود:
- فاز آفلاین: ارائه‌دهنده یک اثر انگشت کوتاه منتشر می‌کند که یک مجموعه دقیق وزن‌ها را متعهد می‌سازد. این فرآیند حدود ۳۹ دقیقه طول می‌کشد و تقریباً ۱۶ میلیون درخواست را پوشش می‌دهد.
- فاز آنلاین: برای هر درخواست، GPU اثباتی تولید می‌کند که مدل متعهد شده آن توکن‌ها را تولید کرده است.
نکته کلیدی: فلش‌پروف تنها پارامترهای فعال — حدود ۱۷ میلیارد در توکن — را اثبات می‌کند، نه کل ۴۰۰ میلیارد پارامتر. این طراحی فرضیه رایج را که تأیید رمزنگاری برای مدل‌های زبانی بزرگ غیرعملی است، می‌شکند.
مشخصات سخت‌افزاری و کارایی
- اثبات‌کننده (Prover): ۱ GPU H100 ۸۰ گیگابایت، ۲۴ هسته CPU، حدود ۲۹۰ گیگابایت رم میزبان
- تأییدکننده (Verifier): روی CPU اجرا می‌شود، GPU لازم ندارد
- اندازهٔ اثبات: ۱۸.۷۸ مگابایت
- زمان تأیید: ۱۷ ثانیه روی ۲۴ نخ، ۲۱ ثانیه روی ۱ نخ
- هزینه اثبات: حدود ۷۰ تا ۹۵ برابر زمان GPU استنتاج ساده vLLM (بر روی ۸ کارت H100)
- محدودیت متن: ۱،۰۲۴ توکن
- مجوز: آپاچی ۲.۰ (Apache 2.0)
بنچمارک‌ها روی وزن‌های ۴-بیتی ماوریک (Maverick) عمومی
- دسته ۲۴: ۱۱۱.۲۳ توکن در ثانیه
- درخواست تکی: ۱۷.۴۱ توکن در ثانیه
- دسته ۶۴: ۱۲۳.۳۱ توکن در ثانیه (این پیکربندی روی کارت‌های ۸۰ گیگابایت به‌عنوان غیرموثق علامت‌گذاری شده)
مقایسه با سیستم‌های پیشین zkML
| سیستم | مدل اثبات‌شده | نرخ توکن/ثانیه |
|---|---|---|
| فلش‌پروف | لاما ۴ ماوریک (۴۰۰ میلیارد MoE) | ~۱۱۰ |
| AttestableVerInf | جما ۴ ۳۱ میلیاردی (چگال) | ۵۳ تا ۷۷ |
| DeepProve | GPT-2 | ~۰.۰۲ |
| zkLLM | GPT-2، جما ۳ | ~۲.۹ (GPT-2) |
فلش‌پروف از نظر سرعت ترتیبات بزرگی جلوتر است. اثبات‌ها ۱۸.۷۸ مگابایت‌اند و روی CPU در ۱۷ ثانیه (۲۴ نخ) یا ۲۱ ثانیه (۱ نخ) تأیید می‌شوند. در مقایسه، هزینه اثبات تقریباً ۷۰ تا ۹۵ برابر زمان GPU استنتاج ساده vLLM روی ۸ H100 است.
کاربردها و پیامدها
انتروپیک چهار کاربرد اصلی را فهرست کرده است:
- ناظران می‌توانند سخت‌افزار را برای اجرای قوانین پیس‌بندی هوش مصنوعی تأیید کنند.
- آزمایشگاه‌ها می‌توانند سرورهای استنتاج دستکاری‌شده را شناسایی کنند.
- کاربران می‌توانند منشأ متن را تأیید نمایند.
- ناظران می‌توانند سرویس‌دهی مدل‌های تاییدشده را الزامی سازند. این رویکرد به امنیت، در راستای تلاش‌های قبلی برای یافتن ۷۷ خطای بحرانی و ۸۰۳ خطای بالا در ۱۱ روز بررسی کد آنتروپیک است.
تیم انتروپیک نکته کرده که کلود (Claude) به بهینه‌سازی سیستم کمک کرده، که نقش تکرارشونده هوش مصنوعی در تحقیق هوش مصنوعی را برجسته می‌سازد. امنیت پروتکل در لِن (Lean) رسمی شده و احتمال تقلب حدود q/2^124 + 2^-101 برآورد می‌شود. دو تأییدکننده وجود دارد: یک تأییدکننده سریع C++ برای استفاده روزمره و یک تأییدکننده کندتر لِن با تضمین رسمی. این نقش تکرارشیعه هوش مصنوعی در تحقیق، در پی تولید ۱۸۰ میلیون خط کد اثبات رسمی توسط کلود نیز مشهود است.
گفتگو