«تجربه‌ای تکه‌تکه»؛ چالش اجرای عامل‌های هوش مصنوعی در سخت‌افزار محلی

تصور کنید ۱۲ هزار دلار هزینه کنید تا قدرتمندترین سیستم شخصی بازار را بخرید؛ یک مک استودیو M5 Ultra با ۲۵۶ گیگابایت حافظه یکپارچه. این سخت‌افزار قادر است تقریباً هر مدل محلی را اجرا کند، اما با این حال، هنوز نمی‌تواند یک گزارش صبحگاهی ساده را بدون خطا تضمین کند. این شکاف میان قدرت سخت‌افزاری و کارایی عملی، نقطه حساس فعلی بازار هوش مصنوعی است: تقابل میان میل به حاکمیت کامل بر داده‌ها و پایداری عملیاتی ابرهای پردازشی. این چالش‌ها در حالی رخ می‌دهد که برتری صنعتی M5 Ultra در پردازش‌های محلی پیش‌تر به دلیل سرعت بالای پردازش توکن‌ها به اثبات رسیده بود.

برای اکثر کاربران، مانع اصلی پذیرش هوش مصنوعی، «مالیات حریم خصوصی» است؛ یعنی اجباری که داده‌های شخصی را به غول‌هایی مثل OpenAI، گوگل، مایکروسافت یا Anthropic بسپارند. هوش مصنوعی محلی وعده می‌دهد که یک «دستیار در جعبه» (gofer in a box) داشته باشید که فقط به شما پاسخ می‌دهد، نه به مدیران شرکتی. این رویکرد در واقع بخشی از تغییر توازن مالکیت داده‌هاست که در آن کنترل داده‌ها از ابر به دستگاه‌های کاربر منتقل می‌شود. این چرخش، رقابت سخت‌افزاری جدیدی را به راه انداخته است؛ از مک‌های اپل با حافظه بالا گرفته تا ماشین‌های RTX Spark ویندوزی که تا ۱۲۸ گیگابایت رم ارائه می‌دهند تا نیازهای عامل‌های هوش مصنوعی (AI Agents) — شبیه به کارمندی دیجیتال که می‌تواند به‌جای شما ابزارها را اجرا کند — را برطرف کنند.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، حذف واسطه‌های ابری امنیت را بالا می‌برد اما پیچیدگی مدیریت را افزایش می‌دهد. در این آزمایش، از Hermes Agent استفاده شد؛ یک اپلیکیشن دسکتاپ رایگان و میزبانی شخصی (Self-hosting) که با سیستم‌عامل‌های macOS، ویندوز و لینوکس سازگار است. از آنجا که مک استودیو M5 Ultra دارای ۲۵۶ گیگابایت حافظه یکپارچه است، می‌تواند مدل‌های عظیمی را مدیریت کند که باعث کرش کردن سخت‌افزارهای معمولی مصرف‌کننده می‌شوند. این موضوع یک «پارادوکس انتخاب» ایجاد می‌کند؛ مدل‌های در دسترسی بسیار بیشتر از آن است که بتوان شمرد و بسیاری از آن‌ها کاربردهای بسیار تخصصی دارند.

طبق مستندات فنی، مدل‌های با میلیاردها پارامتر بیشتر، معمولاً توانمندتر از مدل‌های کوچک‌تر با چند میلیارد پارامتر هستند. از آنجا که اجرای محلی یک مدل، نیاز به پرداخت هزینه برای هر توکن (Token) — تکه‌های کوچکی از متن شبیه به برش‌های یک کیک که مدل تکه‌تکه می‌خورد — را از بین می‌برد، هدف این بود که با بزرگ‌ترین پیکربندی ممکن شروع کنیم. با استفاده از رابط کاربری Onboarding و انتخاب‌گر مدل در Hermes، مدل Qwen 3.8 Flash Next انتخاب شد. این یک مدل ۱۲۵ میلیارد پارامتری است که تقریباً ۱۰۵ گیگابایت فضای حافظه را اشغال می‌کند.

بر اساس بررسی‌های انجام شده، برنامه‌ی تست‌های آتی شامل اجرای مدل‌های کوچک‌تر Qwen روی سخت‌افزارهای متنوع است تا «کفِ کاربردی» (Utility Floor) مشخص شود؛ یعنی نقطه‌ای که در آن مدل کوچک‌تر می‌شود اما هنوز کارایی لازم را دارد. این لیست شامل موارد زیر است:

• مک مینی M6
• مک‌بوک ایر M5
• ایسوس TUF Gaming A14 (با پردازنده AMD Strix Halo)
• ماشین‌های RTX Spark

با وجود این قدرت خام، مسیر تبدیل نصب به کاربرد، هموار نبود. اولین تلاش برای ساخت یک گزارش صبحگاهی — یک دستور ساده (cron job) برای اسکن ایمیل‌ها، تقویم و آب‌وهوا — بارها شکست خورد. دلیلش یک تنظیم ساده سیستمی بود: macOS نمی‌تواند این دستورات را در حالی که کامپیوتر در حالت خواب (Sleep) است، اجرا کند. پس از حل این مشکل در ساعت ۷:۳۰ صبح، گزارش‌ها دقیقاً مانند یک ساعت عمل کردند، هرچند هنوز ابزاری ابتدایی هستند که برای مفید بودن واقعی به منابع داده بیشتری نیاز دارند.

جایی که هوش مصنوعی محلی واقعاً درخشید، در کارهایی بود که کاربر به‌دلیل حساسیت یا محرمانه بودن داده‌ها، حاضر نبود آن‌ها را به ابر بفرستد. در اینجا، توانایی حفظ داده‌ها روی دستگاه محلی، تنها عامل تعیین‌کننده در استفاده یا عدم استفاده از این ابزارها بود:

• تحلیل مالی: استفاده از Hermes برای بررسی سوابق مالی و محاسبات عددی بدون ریسک نشت داده‌ها به ابر.
• پژوهش‌های محرمانه: ایجاد جداول مقایسه‌ای مشخصات برای یک لپ‌تاپ جدید. از آنجا که این اطلاعات تحت embargo (ممنوعیت انتشار پیش از موعد) بود، استفاده از سرویس‌های ابری اصلاً یک گزینه نبود.
• مدیریت کتابخانه: سازماندهی ۴۰۰ بازی در Steam. از آنجا که استیم بازی‌ها را به‌طور خودکار دسته‌بندی نمی‌کند، کاربر مجبور بود آن‌ها را یکی‌یکی و دستی مرتب کند.

برای مدیریت کتابخانه Steam، عامل هوش مصنوعی نیاز به دسترسی‌های خاصی داشت. کاربر مجبور شد یک کلید API وب استیم را ثبت کرده و آن را در اختیار Hermes قرار دهد. پس از اعطای دسترسی، هوش مصنوعی کلاینت نصب‌شده‌ی استیم را مشاهده کرد و بازی‌ها را بر اساس ژانر مرتب نمود، در حالی که دسته‌های تخصصی مانند «علاقمندان»، «عناوین Co-op»، «بازی‌های جمعی» و «بازی‌ها برای انجام با همسر» را حفظ کرد. برای تضمین امنیت، کلید API بلافاصله پس از اتمام تسک ابطال شد.

با این حال، وعده‌ی «عامل‌محور» (Agentic) بودن هنوز در مرحله توسعه است. بلندپروازانه‌ترین پروژه فعلی، اسکریپتی برای خودکارسازی بنچمارک‌های لپ‌تاپ است. در حال حاضر این تست‌ها به‌صورت دستی اجرا می‌شوند: ده‌ها تست مختلف که هر کدام سه بار تکرار می‌شوند تا میانگین آن‌ها محاسبه شود؛ فرآیندی که به‌شدت زمان‌بر است. تلاش برای راهنمایی Hermes جهت تولید اسکریپت‌های پایتون به روش Vibe Coding — یعنی کدنویسی بر اساس توصیفات کلی و حس کلی به‌جای دستورات دقیق فنی — یک تلاش گسترده بوده و همچنان به عنوان یک پروژه در دست اجرا باقی مانده است. این رویکرد عملیاتی، در راستای تبدیل هوش مصنوعی به یک جعبه‌ابزار برای حل مسائل واقعی است، نه صرفاً یک مدل برای گفتگو.

تضاد شدیدی میان واقعیت مصرف‌کننده و دموهای شرکتی وجود دارد. در حالی که یک کاربر تک‌نفره با گزارش صبحگاهی در یک مک رده‌بالا دست‌وپنجه نرم می‌کند، اپل خوشه‌هایی از چهار مک استودیو را که با سیم به هم متصل شده‌اند برای اجرای هوش مصنوعی محلی نمایش داده است. این پیکربندی نمایانگر نزدیک به ۵۰ هزار دلار هزینه سخت‌افزاری است. این موضوع نشان می‌دهد که تجربه «راحت» هوش مصنوعی محلی، شاید هنوز به خوشه‌های سازمانی نیاز داشته باشد، نه یک ایستگاه کاری تک‌کاربره.

برای یک کاربر حرفه‌ای، وضعیت فعلی هوش مصنوعی محلی بیشتر شبیه به یک «ابزار» است تا یک «همراه». تعامل با آن با یک مدل «سرد و بی‌روح» (stone-cold) توصیف می‌شود. هیچ میلی به داشتن یک دوست دیجیتالی وجود ندارد؛ هنگام تغییر یک پرامپت، هیچ «متشکرم»، «لطفاً» یا «متاسفم»ی رد و بدل نمی‌شود. این تعامل به اندازه کلیک کردن روی یک منو در سیستم‌عامل، بی‌تفاوت و مکانیکی است.

این یعنی «بردِ حریم خصوصی» با یک «هزینه نگهداری» همراه است. شما حق اشتراک ماهانه را با زمان صرف‌شده برای دیباگ کردن اسکریپت‌های پایتون، مدیریت کلیدهای API و رفع مشکلات تنظیمات خواب macOS عوض می‌کنید. برای کسانی که با داده‌های حساس یا مشخصات محرمانه سر و کار دارند، این معامله‌ای منصفانه است؛ اما برای کسانی که به دنبال دستیاری بی‌دردسر و روان هستند، ابر همچنان برنده است.

منتظر عرضه ماشین‌های RTX Spark باشید تا ببینید آیا هوش مصنوعی عامل‌محور بر پایه ویندوز می‌تواند بر موانع پایداری که در macOS دیده شد غلبه کند، یا اینکه گلوگاه اصلی، خودِ مدل‌ها هستند و نه تراشه‌های سیلیکونی.

گام بعدی شما

• اگر داده‌های حساس دارید، نصب Hermes Agent و تست مدل‌های خانواده Qwen را آغاز کنید.
• برای اتوماسیون‌های محلی در مک، تنظیمات Energy Saver را بررسی کنید تا سیستم در زمان اجرای تسک‌ها به خواب نرود.
• منتظر عرضه ماشین‌های RTX Spark باشید تا ببینید آیا ویندوز می‌تواند پایداری بیشتری در اجرای عامل‌ها فراهم کند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.