پرش به محتوای اصلی
پرش به محتوای مقاله

OpenHuman: کاهش ۸۰ درصدی هزینه‌های LLM با لایه‌ی فشرده‌سازی TokenJuice

·۲۶ اردیبهشت ۱۴۰۵۲ دقیقه مطالعه
OpenHuman: کاهش ۸۰ درصدی هزینه‌های LLM با لایه‌ی فشرده‌سازی TokenJuice
اشتراک‌گذاری

اگر برنامه‌نویسی هستید که از فراموش‌کاری دستیارهای هوش مصنوعی در هر چت جدید خسته شده‌اید، باید با OpenHuman آشنا شوید. تصور کنید دستیاری دارید که تمام پروژه‌های شما را می‌شناسد، اما هیچ‌کدام از داده‌های شما را به سرورهای شرکت‌های بزرگ نمی‌فرستد.

بسیاری از دستیارهای فعلی بر اساس پنجره‌های متنی موقت یا سیستم‌های ابری کار می‌کنند. اما OpenHuman که در ۱۴ مه ۲۰۲۶ در نسخه‌ی بتای اولیه عرضه شد، بار حافظه را از ابر به یک پایگاه داده محلی SQLite منتقل می‌کند. این یعنی داده‌های شما روی دستگاه خودتان می‌ماند، نه در ابر یک شرکت تجاری.

Cover image for One Open Source Project a Day (No. 65): OpenHuman - A Local-First Personal AI Super Intelligence That Actually Knows You

به نقل از گزارش dev.to، این سیستم از یک «درخت حافظه» برای سازمان‌دهی داده‌های بیش از ۱۱۸ ادغام OAuth (از جمله Gmail، GitHub و Notion) استفاده می‌کند که هر ۲۰ دقیقه به‌طور خودکار همگام‌سازی می‌شوند. در این میان، مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — از طریق لایه‌های زیرین مدیریت می‌شود:

  • TokenJuice: یک خط لوله فشرده‌سازی که کدهای HTML را حذف و محتواهای تکراری را می‌زداید تا هزینه API مدل‌ها تا ۸۰٪ کاهش یابد.
  • معماری: این ابزار با Rust و Tauri ساخته شده است؛ به همین دلیل مصرف رم آن زیر ۵۰ مگابایت است، در حالی که اپلیکیشن‌های مبتنی بر Electron معمولاً ۲۰۰ تا ۵۰۰ مگابایت رم می‌بلعند.
  • مسیریابی مدل: وظایف را به‌طور خودکار بین مدل‌های استدلالی (مثل o3)، مدل‌های سریع (GPT-4o-mini) یا نمونه‌های محلی Ollama برای حریم خصوصی کامل تقسیم می‌کند.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، انتقال کنترل داده‌ها به محیط محلی، نقطه عطف پذیرش ابزارهای هوش مصنوعی در محیط‌های حساس است. برای یک توسعه‌دهنده مستقل، این تغییر یعنی تبدیل هوش مصنوعی از یک چت‌بات ساده به یک ابزار سیستمی. با جایگزینی بازیابی برداری ساده با یک درخت خلاصهٔ سلسله‌مراتبی، عامل شما به‌جای تکه‌های پراکنده، یک نمای کلی از پروژه را می‌بیند.

گام بعدی شما

  • اگر به حریم خصوصی اهمیت می‌دهید، OpenHuman را از طریق اسکریپت نصب تک‌دستوری اجرا کنید.
  • برای حذف کامل وابستگی به اینترنت، آن را با Ollama در حالت آفلاین پیکربندی کنید.
  • ادغام‌های GitHub و Notion را فعال کنید تا درخت حافظه، ساختار پروژه‌های شما را یاد بگیرد.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه چگونه مدل‌های محلی در حال بلعیدن سهم بازار ابر هستند، به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این رویکرد با کاهش شدید هزینه‌های استنتاج و حذف وابستگی به ابر، دسترسی به عامل‌های شخصی‌ساز شده را برای کاربران عادی اقتصادی می‌کند. تکیه بر معماری Rust و Tauri نیز ثابت می‌کند که بهره‌وری سخت‌افزاری همچنان کلید اصلی استقرار گسترده AI در دسکتاپ است.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.