تصور کنید در وقفههای کوتاه ۱۵ دقیقهای بین شیفتهای سخت کاری در یک کارخانه، در حال کدنویسی یک موتور سهبعدی پیچیده روی گوشی موبایل باشید. این دقیقاً داستان ساخت CoSpatial 3D است؛ استودیوی فضایی و موتور مفاهیم زایندهای که تماماً روی یک گوشی هوشمند توسعه یافته است.
طبق اعلام سازنده در ۱۱ اوت ۲۰۲۶، بزرگترین چالش فنی این پروژه نه ریاضیات پیچیده سهبعدی، بلکه توقف رابط کاربری یا UI Throttling بود. در واقع وقتی یک کمکخلبان هوش مصنوعی سعی میکرد فایلهای طولانی را بازنویسی کند یا مسائل مثلثاتی دشوار را حل کند، مرورگرهای موبایل به دلیل محدودیتهای زمانی (Timeout) در پروتکل HTTP، بهطور کامل کرش میکردند. این چالشها در مدیریت ارتباطات استریم، یادآور راهکارهای کاهش هزینههای تکراری در LLMها است که برای بهینهسازی پاسخهای طولانی به کار میروند.
همانطور که در تحلیلهای قبلی ما دربارهی بهینهسازی مدلها برای سختافزارهای لبه اشاره کردیم، محدودیت منابع در موبایل همیشه گلوگاه اصلی است. برای حل این مشکل، توسعهدهنده حلقههای استاندارد درخواست-پاسخ را حذف و استریم رویدادهای ارسالی سرور (SSE) — شبیه به یک نوار نقاله که قطعات کوچک داده را یکییکی و بهصورت مداوم میفرستد تا انبار مرورگر پر نشود — را روی بکاِند پایتون پیاده کرد.
به گزارش وبسایت dev.to، این سیستم اکنون از یک حلقه خواننده در React استفاده میکند تا دادهها را توکنبهتوکن مصرف کند. جزئیات فنی این پیادهسازی عبارت است از:
- استریم SSE: جایگزینی بافرینگ با افکت تایپی برای دور زدن محدودیتهای زمانی مرورگر.
- اجرای مثلثات: نمایش دقیق اشکال هندسی (مانند ستارههای ۵ پر) بهجای توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، مثل دوستی که خاطرهای را اشتباه تعریف میکند.
- یکپارچگی WebSocket: اختصاص یافته به سطح Pro (۱۰ دلار در ماه) برای برنامهنویسی جفتی زنده و چندکاربره. این قابلیت تعاملی، مشابه اتصال هوش مصنوعی به ترمینال است که توانسته زمان بازبینی کد را بهطور چشمگیری کاهش دهد.
این تغییر ثابت میکند که ابزارهای سطح بالای هوش مصنوعی لزوماً به ایستگاههای کاری قدرتمند نیاز ندارند. با انتقال به معماری استریم، گلوگاه از محدودیت زمانی مرورگر به سرعت تولید توکن (Token) — تکههای کوچکی از متن، مثل برشهای یک کیک طولانی که مدل تکهتکه میخورد — در واحد پردازش گرافیکی (GPU) منتقل شد.
برای هر توسعهدهندهای، این یعنی عصر «اول-موبایل» در هوش مصنوعی نیازمند عبور از فراخوانیهای API همگام (Synchronous) است. اگر اپلیکیشن شما در موبایل هنگام تولید خروجیهای طولانی کرش میکند، SSE استانداردترین راهکار معماری است.
کاربران میتوانند همین حالا پاسخدهی استریم را در محیط Sandbox سایت cospatial3d.xyz تست کنند تا ببینند متن در اندازههای مختلف صفحه چگونه بارگذاری میشود.
گام بعدی شما
- اگر اپلیکیشن AI دارید که در موبایل کند است، پیادهسازی SSE را جایگزین Request-Response کنید.
- برای مدیریت دادههای حجیم در فرانتاِند موبایل، از Fetch Reader Loop در React استفاده کنید.
- تفاوت سرعت استنتاج در حالت استریم را با حالت بافرینگ در محیطهای مختلف مقایسه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو