تصور کنید در دل یک مسیر کوهستانی هستید و دسترسی به شبکه موبایل به‌طور کامل قطع شده است، اما همچنان به یک مربی خبره برای اصلاح مسیر یا چک‌لیست ایمنی نیاز دارید. ابزار Touch Grass دقیقاً برای همین لحظات ساخته شده است تا هوش مصنوعی را از بند اتصال به اینترنت رها کند.
این ابزار که در ۸ اکتبر ۲۰۲۶ به‌عنوان بخشی از چالش Hacktoberfest معرفی شد، به علاقه‌مندان فضای باز اجازه می‌دهد بدون نیاز به اتصال به سرورهای خارجی، برنامه‌های اختصاصی دوچرخه‌سواری طراحی کنند و اهداف شخصی خود را مدیریت نمایند.
بیشتر اپلیکیشن‌های تناسب اندام برای ردیابی و تحلیل داده‌ها به اتصال دائمی به ابر وابسته هستند. اما این پروژه با انتقال استنتاج (Inference) — که در واقع همان لحظه تولید جواب توسط مدل است، شبیه به خودِ آشپزی در مقابل یادگیری دستور پخت — به لبه یا همان دستگاه کاربر، این پارادایم را تغییر داده است. همان‌طور که در پوشش پیشین ما درباره‌ی نیازهای محاسباتی مدل‌های بزرگ دیدیم، اجرای مدل‌هایی مثل Llama 3.3 70B به صدها پردازنده H100 نیاز دارد، اما رویکرد میزبانی شخصی در اینجا بر بهره‌وری مدل‌های کوچک متمرکز است. این رویکرد یادآور توانمندی‌های مدل Gemma 3:1b است که اجرای هوش مصنوعی آفلاین را حتی بر روی لپ‌تاپ‌های دانشجویی ممکن ساخت.
طبق گزارش وب‌سایت dev.to، این سیستم برای حفظ سرعت و حریم خصوصی از ترکیب فنی زیر استفاده می‌کند:
- Llama 3.2 (3B): یک مدل زبانی کوچک (SLM) — شبیه به یک متخصصِ کوچک‌شده که روی یک موضوع خاص تمرکز دارد — که نقش مغز متفکر سیستم را ایفا می‌کند.
- Ollama: موتور استنتاج محلی که اجرای مدل را روی سخت‌افزار کاربر ممکن می‌سازد.
- Python: لایه منطقی و رابط کاربری ترمینال برای تعامل با کاربر.
بر اساس مستندات این پروژه، اسکریپت مذکور با دریافت مکان و هدف کاربر (مثلاً «یک مسیر ۲۰ کیلومتری در جاده‌های خاکی»)، یک پرامپت مربی‌گری تخصصی می‌سازد تا توصیه‌های مربوط به زمین، چک‌لیست تجهیزات و نکات ایمنی در مواجهه با حیات‌وحش را تولید کند. این تمرکز بر پردازش محلی، مشابه راهکارهای مدل‌های وزن‌باز برای بازبینی خصوصی کدهاست که هدفشان جلوگیری از نشت داده‌ها به سرورهای ابری است.
برای کاربر عادی، این یعنی هوش مصنوعی دیگر یک زنجیر به بسته اینترنت نیست. در واقع مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — از یک چت‌بات ابری به یک قطعه تجهیزات آفلاین تبدیل شده است؛ چیزی شبیه به GPS یا نقشه کاغذی، اما با قدرت استدلال یک مدل ۳ میلیارد پارامتری. این تحول در دسترس بودن مدل‌ها، با ظهور ابزارهایی مانند PocketPal AI که اجرای مدل‌های زبانی را روی اندروید و iOS ممکن کردند، شتاب بیشتری گرفته است.
توسعه‌دهندگان اکنون می‌توانند مخزن کامل این پروژه را از گیت‌هاب کلون کنند تا دستیارهای مربی‌گری محلی خود را بسازند. تکامل بعدی این ابزارها احتمالاً در ادغام داده‌های محلی GIS برای ارائه مختصات دقیق نقشه، بدون نیاز به APIهای گوگل‌مپ خواهد بود.
گام بعدی شما
- اگر سخت‌افزار مناسبی دارید، Ollama را نصب کنید و مدل Llama 3.2 3B را برای تست کارهای آفلاین امتحان کنید.
- مخزن Touch Grass را در گیت‌هاب بررسی کنید تا نحوه ساخت پرامپت‌های مربی‌گری را یاد بگیرید.
- برای کاهش مصرف باتری در سفرهای طولانی، استراتژی‌های اجرای مدل‌های کوانتیده را مطالعه کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو