تصور کنید بتوانید یک شبکه عصبی عظیم را بدون نیاز به متوقف کردن کل سیستم برای بهروزرسانی وزنها، آموزش دهید. در حالی که روش پسانتشار (Backpropagation) معمولاً برای آموزش یک معماری ۱۰۰۰ لایهای، کل شبکه عصبی را در طول بهروزرسانی وزنها قفل میکند، پژوهشگران Sakana AI این الزام سراسری را به چالش کشیدهاند. آنها با معرفی متد PC-ALM (کدگذاری پیشبین لگرانژ افزوده)، ادعا کردهاند که میتوان هر بهروزرسانی را بهصورت لایه-به-لایه و محلی پیش برد، در حالی که سیگنالهای اعتباری (Credit Signals) که معمولاً در معماریهای عمیق گم میشوند، بازیابی شوند.
این دستاورد در حالی رخ میدهد که جامعه علمی بهدنبال جایگزینهایی برای پسانتشار است که از نظر زیستشناختی پذیرفتنی باشند؛ چراکه مغز انسان فاقد آن همگامسازی سراسری در سطح شبکه است که برای اجرای استاندارد گرادیان کاهشی (Gradient Descent) مورد نیاز است. همانطور که در تحلیلهای پیشین ما دربارهی ابزارهای پردازش محلی مانند StemDeck اشاره کردیم، تمایل صنعت به سمت مدلهای غیرمتمرکز یا پردازش محلی برای عبور از گلوگاههای الگوهای محاسباتی متمرکز و سراسری در حال افزایش است.
زمینه و مبانی کدگذاری پیشبین
در روشهای استاندارد کدگذاری پیشبین (Predictive Coding یا PC)، هر فعالسازی پنهان (Hidden Activation) به عنوان یک متغیر بهینهسازی در نظر گرفته میشود. این سیستم، مربع تفاوت (Squared Mismatch) بین فعالسازی یک لایه و پیشبینی ارسالی از لایه پایینتر را جریمه میکند. در این چارچوب، استنتاج (Inference) در واقع همان گرادیان کاهشی روی آن انرژی است و یادگیری به صورت یک گام وزنی شبیه به یادگیری هب (Hebbian-like weight step) اتفاق میافتد.
با این حال، PC استاندارد اغلب در شبکههای عمیق و باریک دچار توقف یا استپ میشود. دلیل این امر آن است که نظارت (Supervision) از خروجی وارد میشود و سیگنال اعتباری باید از طریق زنجیرهای از مصالحههای محلی منتشر شود. در معماریهایی که عرض لایهها کمتر از عمق آنهاست، این سیگنال مدتها پیش از آنکه به لایههای ورودی برسد، محو میشود. این شکاف بین PC و پسانتشار (PC-BP gap) پیشتر توسط اینوسنتی و همکارانش توصیف و مشخص شده بود.
سازوکار عملکرد PC-ALM
طبق گزارش فنی Sakana AI، متد PC-ALM این مشکل را با تبدیل آموزش به یک مسئله بهینهسازی مقید حل میکند: کمینه کردن ضرر نظارتی (Supervised Loss) به شرطی که در هر لایه رابطه $h_i = \sigma(W_i h_{i-1})$ برقرار باشد. در حالی که PC استاندارد یک مدل سادهشده با جریمه درجه دوم (Quadratic-penalty relaxation) از این مسئله است، PC-ALM از لگرانژ افزوده (Augmented Lagrangian) استفاده میکند.
این روش یک ضریب لگرانژ $\lambda_i \in \mathbb{R}^{d_i}$ را به هر قید لایهای متصل میکند. سپس استنتاج بین دو گام محلی متناوب میشود: یک گام گرادیان اولیه (Primal gradient step) روی فعالسازها و یک گام دوگانه (Dual step) به صورت $\lambda_i \leftarrow \lambda_i + \alpha r_i$ که خطای پیشبینی را انباشته میکند. تیم تحقیق این سازوکار را شبیه به یک کنترلکننده PI در هر لایه توصیف میکنند که در آن خطای پیشبینی نقش ترم متناسب (Proportional term) و ضریب لگرانژ نقش ترم انتگرالی (Integral term) را ایفا میکند.
جزئیات فنی و بنچمارکهای پیادهسازی
نتایج بهدستآمده از آزمایشهای این پژوهش عبارتند از:
- عملکرد در MNIST: آموزش شبکههای MLP باقیمانده (Residual MLPs) تا عمق ۱۰۰۰ لایه با عرض ۳۲، تابع فعالساز ReLU و در ۵ اپوک، در حالی که صحت (Accuracy) آنها تنها حدود ۲ درصد با روش پسانتشار (BP) تفاوت داشت.
- کارایی در Fashion-MNIST: در تستی با استفاده از یک سلول مرجع (عرض ۳۲، عمق ۳۲، ReLU)، متد PC-ALM به صحت ۷۷.۷۵٪ دست یافت که بهطور قابلتوجهی از روش PC استاندارد (۶۸.۱۳٪) بالاتر و بسیار نزدیک به پسانتشار (۷۸.۶۶٪) بود.
- تراز سیگنال: کسینوس گرادیان نسبت به پسانتشار از ۰.۶۰۴ در PC استاندارد به ۰.۹۰۹ در PC-ALM افزایش یافت.
- تستهای شبکهای (Grid Testing): تیم پژوهشی، شبکههای MLP باقیمانده را با عرض و عمق بین ۸ تا ۱۲۸ روی مجموعهدادههای Fashion-MNIST و MNIST بررسی کردند. با بودجه استنتاج $T = 2L$، متد PC-ALM در تمامی عرضها، عمقها و توابع فعالساز (identity, tanh, ReLU) با عملکرد پسانتشار برابری کرد.
- استقرار: انتشار پیادهسازی مرجع با مجوز MIT در کتابخانه JAX که روی CPU قابل اجرا است و نتایج شبکه عرض-عمق را بازتولید میکند.
علاوه بر مدلهای ساده MLP، پژوهشگران این متد را روی ResNet-18 با استفاده از مجموعهدادههای CIFAR-10 و Tiny ImageNet آزمایش کردند و دریافتند که PC-ALM بهطور مداوم در تمامی بنچمارکهای مورد آزمایش، عملکردی بهتر از PC استاندارد دارد.
مبانی ریاضیاتی
این تیم بر اساس مشاهدهای از لکان (LeCun) در سال ۱۹۸۸ استدلال میکنند که ضرایب لگرانژ در یک شبکه مقید، در یک نقطه KKT برابر با ادجوینتهای (Adjoints) پسانتشار هستند. آنها ثابت کردند که در شبکههای PC خطی، تحت یک شرط پایداری شعاع طیفی به صورت $\eta_h \sigma_i^2 (2\rho + \alpha) < 4$، متد PC-ALM به آن نقطه KKT همگرا میشود.
برخلاف جریان گرادیان یکنواخت در PC استاندارد، ماتریس تکرار در PC-ALM دارای مقادیر ویژه مختلط است. این امر باعث ایجاد نوسانات میرا (Damped oscillations) میشود، جایی که پارامتر $\alpha$ فرکانس نوسانات را تعیین میکند اما بر نرخ میرایی (Decay rate) آنها تأثیری ندارد.
برای حوزه یادگیری ماشین، این یافتهها فرضیه «تنها راه عملی برای آموزش شبکههای بسیار عمیق، پسانتشار سراسری است» را تغییر میدهد. با اثبات اینکه ضرایب محلی میتوانند به گرادیانهای دقیق پسانتشار در شبکههای خطی همگرا شوند، PC-ALM پلی ریاضیاتی میان یادگیری محلی الهامگرفته از زیستشناسی و کارایی یادگیری عمیق مدرن ایجاد کرده است.
این موضوع نشاندهنده آیندهای است که در آن آموزش میتواند توزیعشدهتر باشد و بهطور بالقوه هزینههای حافظه مرتبط با ذخیره وضعیتهای فعالسازی سراسری برای پاس بازگشتی (Backward pass) را کاهش دهد. هرچند این متد فعلاً روی بنچمارکهای کوچک تصویری آزمایش شده، اما قابلیت مقیاسپذیری این منطق بهروزرسانی محلی برای مدلهای زبانی بزرگ (LLM) همچنان یک پرسش باز و حیاتی است. در این راستا، تلاش برای بهبود هوش مدلها از طریق متدهای جایگزین، مشابه رویکرد Z.ai در مقیاسبندی یادگیری تقویتی است که سعی در بهینهسازی شاخص هوش مدلها دارد.
توسعهدهندگان اکنون میتوانند پیادهسازی JAX را در گیتهاب بررسی کنند تا ببینند چگونه محدودههای پایداری یادگیری محلی بر معماریهای باریک-عمیق (Narrow-depth) آنها تأثیر میگذارد.
گام بعدی شما
- بررسی پیادهسازی JAX در گیتهاب برای تست پایداری یادگیری محلی روی معماریهای خاص خودتان.
- مطالعه مقایسهای بین هزینههای حافظه در پسانتشار در مقابل متدهای محلی برای بهینهسازی استقرار مدل.
- دنبال کردن نتایج احتمالی اعمال این متد روی مدلهای ترنسفورمر در گزارشهای آتی Sakana AI.
اما تأثیر این تغییر در معماری بر سختافزارهای نسل بعد حتی تکاندهندهتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو