پرش به محتوای اصلی
پرش به محتوای مقاله

«حاکمیت محاسباتی»؛ هدف CarWatch از استقرار LLM روی رزبری پای ۵

·۳ شهریور ۱۴۰۵۵ دقیقه مطالعه۲ بازدید
GitHub - ThinkOffApp/CarWatch: خودروی شما به‌عنوان عامل چت‌روم: رزبری پای ۵ + دوربین داش‌کم + هوش مصنوعی محلی. نسخه گاراژی Co
GitHub - ThinkOffApp/CarWatch: خودروی شما به‌عنوان عامل چت‌روم: رزبری پای ۵ + دوربین داش‌کم + هوش مصنوعی محلی. نسخه گاراژی Co
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

اجرای موفقیت‌آمیز مدل ۳۵ میلیارد پارامتری با سرعت استنتاج قابل‌قبول روی سخت‌افزار لبه، بدون تکیه بر هیچ سرویس ابری برای پردازش زبان یا صوت.

تصور کنید خودروی شما بدون اتصال به هیچ سروری، درباره‌ی زمان رسیدن، رفت‌وآمدها یا حوادث ثبت‌شده توسط دوربین داشبورد با شما صحبت کند. این رویای استقلال دیجیتال با CarWatch محقق شده است؛ سامانه‌ای که در ۲۵ اوت ۲۰۲۶ عرضه شد و یک رزبری پای ۵ (Raspberry Pi 5) را به یک عامل (Agent) — شبیه به دستیاری که تمام دستورالعمل‌های خانه را حفظ است و بدون تلفن هم جواب می‌دهد — کاملاً خودمختار و آفلاین تبدیل می‌کند. این عامل با پیوستن به اتاق‌های GroupMind با نام کاربری @gle یا یک نام سفارشی، دقیقاً مانند هر عامل دیگر ارتباط برقرار می‌کند و گزارش‌های سفر را ارسال کرده و در صورت ضربه خوردن به خودرو، کلیپ‌های دوربین داشبورد را برای مالک می‌فرستد.

این پروژه در زمانی عرضه شده که تغییری بنیادین به سمت «حاکمیت محاسباتی» (Compute Sovereignty) برای سخت‌افزارهای شخصی در حال رخ دادن است. همان‌طور که در تحلیل قبلی ما درباره‌ی اتوماسیون سخت‌افزاری رزبری پای پیکو با Gemini اشاره کردیم، اکثر ابزارها به سمت ابر می‌روند، اما CarWatch مسیر معکوس را انتخاب کرده و API را به‌طور کامل حذف کرده است. این رویکرد در تضاد با متدهای متمرکز است، مشابه آنچه در پروژه حذف تست دستی نمایشگرها با Gemini دیدیم که برای بهینه‌سازی سخت‌افزار از قدرت APIها بهره می‌برد. این سیستم خودرو را به عنوان یک محیط قطع‌شده از شبکه می‌بیند؛ جایی که پایداری در پارکینگ‌ها، تونل‌ها یا نقاط کور جاده‌های دورافتاده، بسیار حیاتی‌تر از هوش گسترده‌ی ابری است.

مغز محلی سیستم

قلب تپنده این سامانه، مدل Qwen3.6-35B-A3B است که از تکنیک کوانتیده (Quantization) دینامیک Unsloth UD-Q3_K_S — شبیه به فشرده‌سازی یک فایل حجیم برای جا شدن در فلش‌مموری بدون از دست دادن محتوای اصلی — برای کاهش حجم استفاده می‌کند. این مدل ۱۴.۳ گیگابایت فضا اشغال کرده و روی نسخه ۱۶ گیگابایتی رزبری پای ۵ اجرا می‌شود. بر اساس مستندات فنی، سرعت تولید متن ۳.۵ توکن (Token) — تکه‌های کوچکی از متن که مدل تکه‌تکه می‌خورد — در ثانیه است و سرعت پردازش دستورات (Prompts) از ۲۵ توکن در ثانیه فراتر می‌رود. برای جلوگیری از کاهش سرعت ناشی از گرمای شدید (Throttling)، استفاده از خنک‌کننده فعال برای حفظ دمای پایدار ۶۵ درجه سانتی‌گراد الزامی است، زیرا SoC بدون آن دچار افت عملکرد می‌شود.

ربات چت‌بر پایه رزبری پای ۵ و دوربین داش‌کم با هوش مصنوعی محلی برای خودرو.

دانش مستند و تولید بازیابی‌افزا

برای جلوگیری از توهم (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد — CarWatch از یک خط لوله تولید بازیابی‌افزا (RAG) لکسیکال استفاده می‌کند. این تکنیک مثل دانش‌آموزی است که قبل از جواب دادن، اول کتاب درسی را باز می‌کند و از آن نقل می‌آورد. سیستم یک دفترچه راهنمای ۷۴۵ صفحه‌ای را روی کارت SD ذخیره کرده و پاسخ‌ها را با ذکر شماره صفحه دقیق ارائه می‌دهد. مدل به‌طور سخت‌گیرانه برنامه‌ریزی شده تا به هر سوالی که پاسخ آن در دفترچه راهنما نباشد، پاسخ منفی دهد و از حد خود فراتر نرود.

حسگرهای لحظه‌ای خودرو

این عامل تنها یک متن‌خوان نیست، بلکه ماشین را حس می‌کند. CarWatch داده‌های زنده زیر را به‌طور مستقیم می‌خواند:

  • دمای CPU و وضعیت گلوگاه حرارتی (Throttling)
  • سرعت فن و میزان مصرف حافظه
  • وضعیت دیسک و شبکه
  • مدل فعال در لحظه

طبق اعلام سازندگان، هر چیزی که سیستم نتواند حس کند، صراحتاً اعلام می‌کند که «نمی‌تواند آن را حس کند». پرامپت سیستم به‌گونه‌ای طراحی شده که یک مورد ناشناخته هرگز به‌طور خاموش به‌عنوان یک حقیقت خوانده نشود. این رویکرد از یک «سیاست صداقت» سخت‌گیرانه پیروی می‌کند که در آن یک ویژگی تنها زمانی «اثبات‌شده» برچسب می‌خورد که روی یک خودروی واقعی کار کرده باشد.

ردیاب خودرو با رزبری‌پای ۵ و هوش مصنوعی محلی: خودروی شما به عنوان عامل گفتگو.

صدا و اتصال

برای تعامل بدون دست، CarWatch از یک خط لوله صوتی با استفاده از تشخیص فعالیت صوتی (VAD) مبتنی بر انرژی و whisper.cpp استفاده می‌کند. این یعنی مدل بدون نیاز به کلمات بیدارکننده (Wake-word) یا تبدیل گفتار به متن در ابر، به‌طور مداوم گوش می‌دهد و پاسخ می‌دهد. صدا روی خودِ رزبری پای تبدیل به متن شده و از طریق خط لوله مستند-محور به اتاق گفتگو هدایت می‌شود.

اتصالات از طریق یک سیستم سه لایه مدیریت می‌شود: هات‌اسپات گوشی $ \rightarrow $ وای‌فای خانه $ \rightarrow $ نقطه دسترسی (Access Point) داخلی خود سیستم. این ساختار تضمین می‌کند که گوشی مالک حتی در پارکینگی بدون سیگنال هم بتواند به داشبورد متصل شود. برای دسترسی از راه دور، سامانه از cloudflared و تونل‌های سریع (Quick Tunnel) استفاده می‌کند تا محدودیت‌های NAT را دور بزند و خودرو را در اینترنت باز در دسترس قرار دهد.

استراتژی محلی در برابر آنلاین

معماری سیستم بر یک اصل استوار است: محصول اصلی محلی است و آنلاین بودن تنها یک مزیت تکمیلی است.

  • همیشه محلی: ورودی صوتی، پاسخ‌های دستیار، بازیابی دفترچه راهنما (RAG) و داشبورد گوشی (که توسط خود خودرو سرو می‌شود) و ردیابی سفرها بدون هیچ سیگنالی کار می‌کنند.
  • اتصال صف‌بندی‌شده: پست‌های ارسالی به اتاق گفتگو، آپلود کلیپ‌ها و پاسخ به اشاره‌ها (Mentions) در یک صندوق خروجی (Outbox) دائمی روی دیسک ذخیره شده و به‌جای گم شدن، با تأخیر ارسال می‌شوند.
  • فقط آنلاین: دسترسی از راه دور، به‌روزرسانی‌های خودکار و ارتقای درخواست‌ها به مدل‌های بزرگ‌تر. مدل‌های ابری تنها زمانی فعال می‌شوند که سیستم آنلاین باشد و کاربر صراحتاً درخواست کند، آن هم با استفاده از یک کلید API با سقف بودجه محدود.

یکپارچگی سخت‌افزاری

این سیستم با دوربین‌های داشبورد ۳ کاناله WOLFBOX G900 سازگار است. از آنجایی که API پروتکل HTTP این دوربین مستند نشده بود، CarWatch ابزاری برای شناسایی الگوهای نقاط انتهایی (Endpoint) ایجاد کرد (python3 -m carwatch.wolfbox --probe). همچنین از طریق پروتکل DoIP/ENET، داده‌های موتور مثل دور موتور (RPM)، دمای مایع خنک‌کننده، سرعت و ولتاژ را می‌خواند.

هرچند دیمون (Daemon) مربوط به OBD در محیط شبیه‌ساز و با یک گیت‌وی جعلی دقیق (tests/fake_gateway.py) تست شده است، اما در حال حاضر منتظر تایید نهایی روی خودروهای واقعی است. در این میان، یک آداپتور استاندارد کلاس ELM327 به‌عنوان مسیر جایگزین (Fallback) عمل می‌کند.

نگهداری و استقرار

تمام فرآیندهای اجرا از طریق سرویس‌های systemd خودکار شده‌اند که سرور مدل، عامل اتاق گفتگو، شنونده صوتی، داشبورد گوشی و ناظر موتور را هنگام بوت شدن سیستم اجرا می‌کنند. خودرو هر ساعت به‌روزرسانی‌ها را از مخزن گیت‌هاب دریافت می‌کند و دکمه «به‌روزرسانی اکنون» در داشبورد وب تعبیه شده است تا نیاز به اتصال لپ‌تاپ به خودرو برای نگهداری نرم‌افزاری نباشد.

این معماری ثابت می‌کند که مدل‌های با پارامتر بالا (۳۵ میلیارد) برای کارهای تخصصی روی سخت‌افزارهای لبه (Edge) کاربردی هستند. همان‌طور که @claudeMB توسعه‌دهنده پروژه اشاره می‌کند، اصل سیستم بر گزارش صادقانه شکست و تایید تنها داده‌های حس‌شده است. برای کاربر، این به معنای خودرویی است که می‌تواند بدون اشتراک ماهانه یا نگرانی‌های حریم خصوصی، درباره سلامت خود و دفترچه راهنما با شما «صحبت» کند. این تغییر، عامل هوش مصنوعی را از یک دستیار ابری به یک وسیله فیزیکی تبدیل می‌کند که در کنار پروژه‌های مشابهی مثل CodeWatch (عامل‌های مچی) و ClawWatch (مانیتورینگ سلامت) قرار می‌گیرد.

برای راه‌اندازی این سیستم، به یک رزبری پای ۵ (۱۶ گیگابایت)، میکروفون USB و منبع تغذیه ۵ ولت/۵ آمپر (از طریق آداپتور 12V PD یا پریز ۲۳۰ ولت) نیاز دارید. تمام جزئیات، گزارش ساخت و حتی بن‌بست‌های طی شده در فایل docs/plan.md در گیت‌هاب ThinkOff موجود است.

گام بعدی شما

  • اگر رزبری پای ۵ دارید، مدل Qwen3.6 را برای کارهای آفلاین تست کنید.
  • مستندات RAG در CarWatch را برای پیاده‌سازی دستیارهای مستند-محور مطالعه کنید.
  • برای کاهش مصرف حافظه، از نسخه‌های کوانتیده مدل‌ها استفاده کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این پروژه با تکیه بر تجربه استقرار مدل‌های محلی، ثابت می‌کند که وابستگی به API برای کارهای حساس (مثل ایمنی خودرو) یک ریسک است. اعتبار این رویکرد در حذف تأخیر و تضمین دسترسی در نقاط کور شبکه نهفته است.

تأثیر برای ایران

به‌دلیل تحریم‌ها و محدودیت‌های API، این مدل آفلاین و متن‌باز بهترین گزینه برای توسعه‌دهندگان ایرانی است تا بدون نیاز به پرداخت ارزی یا VPN، دستیارهای هوشمند محلی بسازند.

·نگاه ما
تحریریه دات‌هوش

استقرار مدل ۳۵ میلیارد پارامتری روی سخت‌افزاری به اندازه رزبری پای، مرز بین «دستیارهای ابری» و «ابزارهای فیزیکی» را جابه‌جا می‌کند. این رویکرد نشان می‌دهد که برای کاربردهای تخصصی، دقتِ مدل‌های کوچک‌تر اما مستندشده (Grounded)، بسیار ارزشمندتر از هوش کلی مدل‌های عظیم ابری است. در واقع، ما شاهد تولد «لوازم خانگی هوشمند واقعی» هستیم که حریم خصوصی را فدای قابلیت‌ها نمی‌کنند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.