تصور کنید اپلیکیشنی دارید که هزاران عکس را تحلیل میکند، اما حتی یک بایت از دادههای شما به هیچ سروری نمیفرستد. این دقیقاً همان چیزی است که یک پروژه جدید در ۱۰ ژوئیه ۲۰۲۶ به نمایش گذاشته است: طبقهبندی پیچیده تصاویر، کاملاً روی دستگاه کاربر.
اکثر ابزارهای هوش مصنوعی وبمحور به APIهای ابری متکی هستند که دادهها را در سرورهای دوردست پردازش میکنند و همین موضوع باعث ایجاد تأخیر و ریسکهای حریم خصوصی میشود. این دموی فنی، محاسبات را به سمت کاربر میبرد و مرورگر را به یک محیط کامل برای اجرای هوش مصنوعی تبدیل میکند. به این ترتیب، جریان «آپلود و انتظار» جای خود را به پاسخهای فوری و محلی میدهد. همانطور که در تحلیلهای قبلی ما دربارهی رایانش لبه اشاره کردیم، انتقال پردازش از ابر به دستگاه، کلید دستیابی به حریم خصوصی مطلق است. این تحول در واقع تکرار موفقیتهایی است که استفاده از WebGPU برای انتقال استنتاج از سرورها به مرورگر به دنبال داشته است.
طبق گزارش توسعهدهنده در وبسایت dev.to، این برنامه از استراتژی «استنتاج چند-برشی» برای افزایش دقت استفاده میکند. در این معماری، استنتاج (Inference) — که شبیه لحظهی خودِ آشپزی است، نه دورهی آموزش آشپز — مستقیماً در مرورگر رخ میدهد. این سیستم مدلهای .tflite واقعی، بهویژه MobileNet ImageNet و یک طبقهبندیکننده تخصصی مواد غذایی را کاملاً درون مرورگر کامپایل میکند.
بر اساس مستندات فنی، اجزای کلیدی این پشتهی تکنولوژی عبارتند از:
- هستهی LiteRT.js: محیط اجرای اصلی Wasm برای اجرای فایلهای .tflite.
- شتابدهندههای سختافزاری: پشتیبانی از WebGPU، Wasm و WebNN برای رسیدن به حداکثر سرعت.
- TF.js Interop: لایهای اختیاری برای کسانی که ترجیح میدهند از تنسورهای TensorFlow.js استفاده کنند.
- پردازش چند-برشی: موتور برنامه ۵ برش مجزا از هر تصویر میگیرد و نتایج سافتمکس (Softmax) را میانگین میگیرد تا ۲۵ کاندیدای برتر را انتخاب کند.
برای جلوگیری از نتایج تکراری، برنامه از یک اثر انگشت قطعی (deterministic fingerprint) برای وزندهی به ۱۸ مورد از سبزیجات متناظر استفاده میکند. این روش تضمین میکند که یک عکس همیشه یک نتیجه واحد بدهد، اما عکسهای مختلف نتایج متنوعی از کاتالوگ ۳۸۷ موردی استخراج کنند. خروجی نهایی یک کارت شناسایی است که تأخیر استنتاج و تعداد برشها را نمایش میدهد.
برای برنامهنویسان، این تغییر به معنای آن است که فرض «اول-ابر» برای مدلهای بینایی با پیچیدگی متوسط در حال منسوخ شدن است. انتقال پردازش به لبه، هزینههای سرور را حذف کرده و نیاز به آپلود دادههای حساس مانند اثر انگشت یا تشخیص چهره را از بین میبرد.
گام بعدی شما
- کد منبع پروژه را در dailybuild.xyz بررسی کنید تا ببینید WebGPU چگونه عملکرد LiteRT را متحول میکند.
- مدلهای .tflite خود را برای اجرا در مرورگر بهینهسازی کنید تا هزینهی سرور را به صفر برسانید.
- استراتژی Multi-crop را برای بهبود دقت مدلهای بینایی در محیطهای وب آزمایش کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید. این رقابت در سطح سختافزار با همکاری OpenAI و Broadcom برای ساخت تراشههای اختصاصی استنتاج که عملکردی مشابه Blackwell دارند، ابعادی جدید یافته است.
گفتگو