پرش به محتوای اصلی
پرش به محتوای مقاله

پردازش محلی در برابر ابری؛ رویکرد جدید Perplexity برای داده‌های حساس

·۴ شهریور ۱۴۰۵۴ دقیقه مطالعه۳ بازدید
لپ‌تاپ کامپیوتر قابل حمل روی میز چوبی در کنار قهوه و عینک.
لپ‌تاپ کامپیوتر قابل حمل روی میز چوبی در کنار قهوه و عینک.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

نخستین استقرار تجاری یک پشته کامل عامل‌محور (شامل برنامه‌ریز و مسیریاب) روی سخت‌افزار محلی؛ برخلاف RAGهای محلی ساده، اینجا کل چرخه تصمیم‌گیری عامل بدون نیاز به ابر اجرا می‌شود.

تصور کنید یک برنامه‌نویس ارشد باشید که مجبور است برای تحلیل کدهای محرمانه شرکتش، آن‌ها را به سرورهای یک شرکت ثالث بفرستد؛ این ریسک امنیتی تا امروز اجتناب‌ناپذیر بود. در ۲۵ اوت ۲۰۲۶، شرکت پرتپلکسیتی (Perplexity) با معرفی Portable Computer این معادله را تغییر داد تا تحلیل داده‌های حساس کاملاً روی میز کار کاربر باقی بماند. این محصول در واقع نسخه‌ای «محلی-محور» (local-first) از پلتفرم عامل‌محور پرتپلکسیتی است که به‌طور کامل روی دستگاه کاربر اجرا می‌شود. این اقدام در راستای تلاش پرتپلکسی برای انتقال استنتاج عامل‌های هوش مصنوعی به سخت‌افزارهای محلی صورت گرفته است.

سال‌هاست که کاربران در دنیای هوش مصنوعی میان قدرت پردازشی ابر و حریم خصوصی حافظه محلی گیر کرده‌اند. اکثر متخصصان یا مجبور بودند در استفاده از هوش مصنوعی صرفه‌جویی کنند یا ریسک نشت داده‌های حساس به سرورهای شخص ثالث را بپذیرند. Portable Computer با انتقال کل ساختار عامل — شامل ارکستراتور (هماهنگ‌کننده)، برنامه‌ریز و مسیریاب ابزارها — مستقیماً روی سخت‌افزار، این اصطکاک را از بین می‌برد.

لپ‌تاپ کامپکت روی میز چوبی، نمایشگر روشن و کیبورد باز شده.

به نقل از مستندات فنی این محصول، سیستم به‌طور اختصاصی برای NVIDIA DGX Spark طراحی شده است؛ یک رایانه هوش مصنوعی رومیزی که از پلتفرم Grace Blackwell GB10 قدرت می‌گیرد. این سخت‌افزار دارای یک پردازنده ۲۰ هسته‌ای Arm و یک واحد پردازش گرافیکی (GPU) با ۱۲۸ گیگابایت حافظه یکپارچه است که اجازه می‌دهد مدل‌های بزرگ بدون تأخیرهای شبکه اجرا شوند.

در حال حاضر این سرویس برای مشترکان Pro و Max در دسترس است. نسخه اولیه روی لینوکس عرضه شده و پشتیبانی از ویندوز به‌زودی اضافه می‌شود. طبق گزارش وبلاگ پرتپلکسیتی، این نرم‌افزار به‌زودی برای رایانه‌های مجهز به GPUهای سری RTX انویدیا نیز بهینه خواهد شد. فرآیند نصب نیز بسیار ساده شده و از طریق یک نصب تک‌کلیکی (one-click setup) در اپلیکیشن پرتپلکسیتی انجام می‌شود.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی حاکمیت داده‌ها اشاره کردیم، تمایل به حذف واسطه‌های ابری در حال افزایش است. این روند با پیش‌بینی‌های اخیر همسو است که نشان می‌دهد بسیاری از سازمان‌ها تا سال ۲۰۲۷ استنتاج AI را به لبه (Edge) منتقل خواهند کرد. Portable Computer برای ایجاد تعادل میان سرعت و استدلال از مدل‌های خاصی استفاده می‌کند:

  • مدل‌های Qwen 3.8 27B یا PPLX 27B (که یک نسخه تغییریافته و پس‌آموزش‌دیده از Qwen است) به‌عنوان موتورهای اصلی محلی عمل می‌کنند. مدل Qwen به‌گونه‌ای پس‌آموزش (post-trained) داده شده تا بیشترین حجم ممکن از هر وظیفه را به‌صورت محلی به پایان برساند.
  • مدل NVIDIA Nemotron 3.5 Lightning (30B) یک مدل باز است که به‌زودی به فهرست مدل‌های قابل انتخاب در منوی مدل‌ها اضافه می‌شود. این رویکرد مشابه مدل Muse Glimmer متا است که اجرای عامل‌های ۳۰ میلیارد پارامتری را روی GPUهای خانگی ممکن ساخت.
  • مدل NVIDIA Nemotron 3.5 ASR تمام عملیات تبدیل گفتار به متن (دیکته و ترنسکریپشن) را به‌صورت محلی مدیریت می‌کند.

علاوه بر مدل‌ها، کل پشته عملیاتی (operational stack) روی دستگاه اجرا می‌شود. این شامل زمان‌بند (scheduler)، صف وظایف بادوام (durable task queue) و شاخص جست‌وجوی محلی است. از آنجا که مدل‌های محلی بخش اصلی کار را انجام می‌دهند، این عملیات هیچ هزینه توکنی یا اعتباری (per-credit) ندارند. این یعنی دیگر نیازی به جیره‌بندی هوش مصنوعی برای کارهای حجیم نیست و اجرای وظایف با حجم بالا کاملاً کاربردی می‌شود.

با این حال، برخی وظایف همچنان به استدلال‌های پیشرفته (frontier reasoning) یا دسترسی زنده به وب نیاز دارند. در این حالت، ارکستراتور محلی می‌تواند وظیفه را به ابر «ارتقا» (escalate) دهد تا از مرورگر، اپلیکیشن‌های متصل یا یکی از بیش از ۱۵ مدل پیشرو (frontier models) استفاده کند.

برای مثال، کاربر می‌تواند جزئیات محرمانه یک «برگه شرایط» (term sheet) را به‌صورت محلی نگه دارد و تنها برای یافتن مقایسه‌های بازار (market comps) یا معاملات مشابه اخیر، درخواست را به ابر بفرستد. در این شرایط، هرگاه وظیفه‌ای نیاز به ارسال محتوا از دستگاه به سرویس ابری داشته باشد، Portable Computer پیش از هر اقدامی اجازه کاربر را می‌گیرد.

این عامل تنها به خواندن فایل‌ها بسنده نمی‌کند، بلکه روی آن‌ها اثر می‌گذارد. Portable Computer از طریق رابط‌های نرم‌افزاری (app connectors) با GitHub، Gmail، Slack و Google Drive یکپارچه می‌شود.

یک گردش کار نمونه را در نظر بگیرید: کاربر می‌تواند گزارش‌های خطای شبانه در جیمیل را با مسائل (issues) جدید گیت‌هاب به‌صورت محلی تطبیق دهد و سپس تا صبح، پیامی در اسلک درباره سه مورد اولویت‌دار به همراه پیشنهاد نام مسئول هر مورد ارسال کند. همچنین قابلیت جست‌وجوی محلی اجازه می‌دهد عامل بدون هیچ تماس خارجی، در میان اسناد و کدهای محلی جست‌وجو کند.

در حالت دیکته، کاربران می‌توانند در حالی که روی کاغذ طرح می‌کشند یا سندی را می‌خوانند، به عامل دستورات بدهند. ترنسکریپشن و اقدامات روی فایل‌ها روی ماشین باقی می‌ماند و این به کاربران اجازه می‌دهد روی یک کدبیس خصوصی دیکته کنند، بدون اینکه فایل صوتی آن‌ها هرگز با ابر تماس داشته باشد.

تمام اجرای کدها و ابزارها در محیط‌های ایزوله (Sandbox) با دسترسی کنترل‌شده به فایل‌ها و اپلیکیشن‌های متصل صورت می‌گیرد تا امنیت در سطح نسخه ابری پلتفرم حفظ شود. این چرخش به سمت «حاکمیت محاسباتی» (compute sovereignty) برای متخصصان است؛ جایی که کاربر دیگر برای هر «فکر» هوش مصنوعی، مالیات توکنی نمی‌پردازد.

بر اساس بررسی منابع متعدد و وبلاگ تحقیقاتی پرتپلکسیتی با عنوان «یک عامل محلی-محور برای کارهای دانشی خصوصی و مقرون‌به‌صرفه»، این رویکرد در محک‌های دقت، سرعت و بهره‌وری اعتبار، از مدل‌های کاملاً ابری پیشی گرفته است. برای یک کاربر تجاری، هوش مصنوعی از یک سرویس اجاره‌ای به یک کارمند محلی تبدیل می‌شود که موانع انطباق قانونی (compliance) در شرکت‌های حقوقی و مهندسی را به‌طور کامل حل می‌کند.

منتظر انتشار نسخه ویندوز و یکپارچگی مدل Nemotron 3.5 Lightning باشید تا ببینیم آیا عامل‌های محلی می‌توانند در نهایت با کاربرد مدل‌های ابری پیشرو برابری کنند یا خیر.

گام بعدی شما

  • اگر از مشترکین Pro پرتپلکسیتی هستید، دسترسی به نسخه لینوکس را برای تست روی داده‌های حساس بررسی کنید.
  • برای کاهش هزینه‌های استنتاج در پروژه‌های حجیم، مدل‌های Qwen 27B را در محیط‌های محلی آزمایش کنید.
  • منتظر انتشار نسخه ویندوز باشید تا بتوانید جریان کاری ابزارهای اداری خود را محلی‌سازی کنید.

اما تأثیر این سخت‌افزارهای تخصصی بر بازار لپ‌تاپ‌های AI حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این اقدام با تکیه بر اعتبار سخت‌افزاری انویدیا، سد امنیتی شرکت‌های حساس را برای پذیرش عامل‌های AI می‌شکند. در نتیجه، هزینه استنتاج برای کارهای حجیم به صفر می‌رسد و حریم خصوصی به یک ویژگی پیش‌فرض تبدیل می‌شود.

تأثیر برای ایران

به‌دلیل نیاز به سخت‌افزار بسیار گران‌قیمت DGX Spark و محدودیت‌های دسترسی به اشتراک‌های Pro، این قابلیت در حال حاضر کاربردی برای کاربران عادی ایرانی ندارد و بیشتر جنبه پژوهشی دارد.

·نگاه ما
تحریریه دات‌هوش

انتقال ارکستراتور و برنامه‌ریز عامل به لبه (Edge) نشان می‌دهد که مدل‌های متوسط (حدود ۳۰ میلیارد پارامتر) اکنون به اندازه کافی برای مدیریت جریان‌های کاری پیچیده توانمند شده‌اند. این حرکت، وابستگی مطلق به مدل‌های غول‌پیکر ابری را می‌شکند و مفهوم «هوش مصنوعی به مثابه ابزار محلی» را جایگزین «هوش مصنوعی به مثابه سرویس» می‌کند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.