تصور کنید سالانه نزدیک به ۱ لک روپیه (حدود ۶۳۷ دلار) هزینه ابزارهای هوش مصنوعی بدهید، بدون اینکه حتی یک خط کد بنویسید. این واقعیتِ روزمره برای یکی از بنیان‌گذاران بخش محصول در شرکت 123sudo است که در ۷ اکتبر ۲۰۲۶ فاش کرد مصرف شخصی او به ۱۴۵ میلیون توکن — تکه‌های کوچکی از متن، مثل برش‌های یک کیک طولانی که مدل تکه‌تکه می‌خورد — در ۸۳۷۷ درخواست رسیده است. این رقم به چالش می‌کشد این فرض رایج را که مصرف بالای توکن‌ها تنها مختص برنامه‌نویسان و توسعه‌دهندگان است. این موضوع در حالی است که هزینه‌های عملیاتی در توسعه نرم‌افزار با هوش مصنوعی پیش‌تر نشان داده بود که هر تغییر در کد می‌تواند هزینه‌های قابل‌توجهی داشته باشد.
این مقیاس از مصرف، بازتاب‌دهنده یک روند رو به رشد است که در آن هوش مصنوعی به‌جای اینکه صرفاً ابزاری برای پیاده‌سازی فنی باشد، در «کارهای عادی» رشد محصول ادغام شده است. برای بسیاری از متخصصان، هوش مصنوعی از یک ابزار تفننی و نوظهور به فضای کاری اصلی برای هدایت خلاقانه و پژوهش درباره مخاطبان تبدیل شده است. این مدل‌ها اکنون شبیه به یک تخته‌سیاه برای طوفان فکری هستند تا ایده‌های مبهم را به دستورالعمل‌های اجرایی و بریف‌های عملیاتی تبدیل کنند.
زمینه و بستر استفاده
این بنیان‌گذار که تمرکز اصلی‌اش بر تجربه محصول (PX) و رشد است، اشاره کرد که این حجم عظیم مصرف، نتیجه‌ی یک تک‌تسک یا یک پروژه غول‌آسا نبوده است. در عوض، این اعداد حاصل «سگ‌دو زدن‌های روزمره» و چرخه‌های تکراری در مسیر ساخت محصول است. این گردش کار شامل موارد زیر است:
- کار روی ایده‌های محصول و انجام پژوهش‌های عمیق درباره مخاطبان هدف.
- تدوین پیش‌نویس‌های محتوایی برای لانچ محصول و اصلاح زبان و لحن برای ویژگی‌هایی که برای کاربر گیج‌کننده هستند.
- مقایسه رویکردهای مختلف در طراحی و درخواست از مدل‌ها برای به چالش کشیدن ایده‌های موجود و یافتن نقاط ضعف.
- جست‌وجوی نظرات جایگزین (Second Opinions) یا کاوش در مسائلی که هنوز تعریف دقیقی ندارند و به درستی درک نشده‌اند.
طبق گزارش منتشر شده در dev.to، این میزان مصرف از طریق ابزار 9xchat ردیابی شده است، جایی که داشبورد هزینه‌ها مبلغی در حدود ۶۳۷ دلار را نشان می‌داد. با این حال، مجموع هزینه‌های سالانه او در سرویس‌های مختلف هوش مصنوعی به نزدیک ۱ لک روپیه می‌رسید. نکته کلیدی این است که حجم کار او از هزاران تعامل کوچک تشکیل شده بود، نه یک پروژه واحد و عظیم.
اصطکاک در مدیریت زمینه (Context)
این مدیر محصول به یک «نقطه اصطکاک» (Friction Point) بسیار جدی در گردش کار فعلی هوش مصنوعی اشاره کرد: نیاز به بازسازی اطلاعات زمینه‌ای هر بار که یک تسک جدید شروع می‌شود. این یعنی کاربر مجبور است هر بار جزئیات شرکت، مخاطبان هدف و تصمیماتی که پیش از این گرفته شده است را تکرار کند.
به طور مشخص، او توضیح داد که تکرار موارد زیر برایش خسته‌کننده شده است:
- اینکه 123sudo دقیقاً چیست و در حال حاضر بحث روی کدام محصول خاص است.
- مخاطبان هدف چه کسانی هستند و تا به این لحظه چه تصمیماتی قطعی شده است.
- مدل هوش مصنوعی باید از بیان چه ادعاهای خاصی پرهیز کند.
این تکرارهای مداوم دو نوع هزینه متمایز ایجاد می‌کنند:
- هزینه مالی: افزایش مصرف توکن‌ها که بسته به مدل انتخابی، روش صورت‌حساب و نحوه پردازش زمینه (Context Processing) متغیر است.
- هزینه شناختی: صرف زمان و تمرکز ذهنی برای بازسازی اطلاعات به‌جای تمرکز بر اجرای واقعی کار و خروجی نهایی.
حافظه در مقابل هزینه
در اینجا باید یک تمایز حیاتی بین «به یاد داشتن زمینه» و «رایگان بودن آن» قائل شد. اگرچه حافظه پایدار (Persistent Memory) باعث می‌شود کاربر نیاز به تکرار دستی اطلاعات نداشته باشد، اما این به معنای آن نیست که پردازش این اطلاعات رایگان است.
زمینه مرتبط ممکن است همچنان در هر درخواست گنجانده شود و هزینه آن به نحوه پیاده‌سازی، قیمت‌گذاری مدل و سیستم‌های کشینگ (Caching) بستگی داشته باشد. بنابراین، حافظه را باید در درجه اول به عنوان ابزاری برای «تداوم کار» دید، نه لزوماً مکانیزمی برای تضمین کاهش توکن‌ها. هدف نهایی این است که زمینه درست در زمان درست وارد تسک شود، نه اینکه صرفاً حجم بیشتری از متن را با خود حمل کنیم.
بازتعریف بهره‌وری در عصر هوش مصنوعی
برای مقابله با «مشغله‌های کاذب» (Busy Work) که توسط هوش مصنوعی ایجاد می‌شود، این بنیان‌گذار سه فیلتر سخت‌گیرانه را برای سنجش اینکه آیا یک جلسه کاری واقعاً بهره‌ور بوده یا خیر، پیاده کرد:
- تعیین خط پایان: تغییر رویکرد از پرامپت‌های باز و مبهم (مانند «در مورد مارکتینگ به من کمک کن») به اهداف بسیار مشخص (مانند «یک بریف محصول برای این مخاطب خاص بنویس و در آن از این حقایق تاییدشده استفاده کن»).
- فیلتر کردن زمینه: ارائه تنها اطلاعاتی که به تسک فعلی مربوط است — مانند اهداف و محدودیت‌های لحظه‌ای — تا مدل با برنامه‌های قدیمی و منسوخ گیج نشود.
- حسابرسی تصمیمات: پرسیدن این سوال که آیا درخواست گزینه‌های بیشتر واقعاً به پیشرفت کار کمک می‌کند یا صرفاً راهی برای به تأخیر انداختن یک تصمیم سخت است. او اشاره کرد که هوش مصنوعی می‌تواند «راهی بسیار متقاعدکننده برای مشغول ماندن» ایجاد کند بدون اینکه خروجی واقعی تولید شود.
این تغییر دیدگاه ثابت می‌کند که حجم توکن مصرفی، معیار بسیار ضعیفی برای سنجش پیشرفت است. یک گفتگوی واحد و باارزش که منجر به عرضه یک ویژگی محصول (Shipped Feature) شود، بسیار ارزشمندتر از هزاران تکرار ارزان اما بی‌فایده است. هدف باید تغییر از «اندازه‌گیری فعالیت» به «اندازه‌گیری دستاوردها» باشد. این چالش در سطح کلان‌تر نیز دیده می‌شود، چرا که بسیاری از مدیران کسب‌وکار هنوز در اندازه‌گیری بازگشت سرمایه واقعی ابزارهای هوش مصنوعی ناتوان هستند.
برای تیم 123sudo، این تجربه شخصی منجر به توسعه 9xchat شد؛ ابزاری که هدفش فراهم کردن حافظه پایدار در مدل‌های مختلف و نمایش شفاف اعتبارها در یک فضای کاری واحد است. این سیستم اجازه می‌دهد تا نتایج پژوهش‌ها به تصمیمات و سپس تصمیمات به محتوا تبدیل شوند، بدون اینکه کاربر در هر مرحله مجبور به بازسازی دستی زمینه باشد.
چه بنیان‌گذار باشید و چه مدیر، گام بعدی این است که داشبورد هوش مصنوعی خود را حسابرسی کنید. از خود بپرسید: آیا این توکن‌ها در حال تولید تسک‌های تمام‌شده هستند، یا فقط راهی متقاعدکننده برای مشغول نگه داشتن شما هستند؟
گام بعدی شما
- داشبورد مصرف توکن‌های خود را بررسی کنید و ببینید چه مقدار از آن‌ها صرف تکرار اطلاعات زمینه‌ای شده است.
- پرامپت‌های «باز» خود را به «هدف‌محور» تبدیل کنید تا از تله‌ی مشغله‌های کاذب رها شوید.
- برای هر پروژه، یک سند «زمینه ثابت» تهیه کنید تا سریع‌تر آن را به مدل بفهمانید.
اما داستان سخت‌افزاری این تحول و نحوه مدیریت حافظه در لایه‌های زیرین حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو