اشتباه دسته‌بندی هوش مصنوعی: چرا مدل‌های زبانی اتوماسیون هستند نه ابزار

تصور کنید به جای یادگیری هنر نجاری، فقط از یک دستگاه می‌خواهید صندلی بسازد؛ شما دیگر نجار نیستید، بلکه اپراتور یک ماشین هستید. این همان بحرانی است که ریچ هیکی (Rich Hickey)، معمار باسابقه نرم‌افزار، در نقد مفصل خود در ۱۲ اکتبر ۲۰۲۶ مطرح کرده است. استدلال مرکزی او این است که عادت صنعت به نامیدن مدل‌های زبانی بزرگ (LLMs) به عنوان «ابزار»، یک خطای دسته‌بندی بنیادین است که فرسایش مهارت‌های انسانی را پنهان می‌کند. طبق اعلام او، وقتی شما یک پرامپت می‌نویسید، ابزاری را به دست نگرفته‌اید، بلکه یک اتوماتون (ماشین خودکار) را مدیریت می‌کنید.

تعریف یک ابزار

این تمایز از آنجا اهمیت می‌یابد که ابزارهایی مثل چکش یا اره، نیازمند آن هستند که کاربر برای رسیدن به نتیجه، انرژی و جهت‌دهی مداوم اعمال کند. در دنیایی که AI در هر محیط توسعه (IDE) و ویرایشگری ادغام شده، مرز بین استفاده از یک وسیله برای انجام کار و واگذاری کامل کار به ماشین کمرنگ شده است. برای متخصصان، این تغییر به معنای گذار از «تسلط فعال» به «درخواست‌دهی غیرفعال» است. این چالش در سطح سیستم‌های پیچیده‌تر نیز دیده می‌شود، جایی که عامل‌های هوش مصنوعی در تله‌ی استفاده‌ی بیش‌ازحد از ابزارها می‌افتند و مرز میان کاربرد بهینه و وابستگی مطلق را گم می‌کنند.

هیکی اشاره می‌کند که چیزهایی مانند جیب پیراهن یا پنجره‌های سفارش غذای سریع (Drive-thru) اگرچه «مفید» هستند، اما «ابزار» نیستند. او ابزار را به عنوان دستگاه یا وسیله‌ای تعریف می‌کند که اغلب در دست گرفته می‌شود و توسط یک صنعتگر یا کارگر برای اجرای یک عملکرد خاص به کار می‌رود.

عملِ به دست گرفتن (Wielding)

به گفته‌ی هیکی در یادداشتی که در gist.github.com منتشر شد، یک ابزار واقعی چیزی است که فرد آن را «به دست می‌گیرد» (Wield)؛ این واژه متضمن تسلط کامل، قدرت و نزدیکی با ابزار است. به دست گرفتن یعنی مدیریت، دست‌کاری و کنترل با تمام قدرت. هیکی ابزارها را با ویژگی‌هایی تعریف می‌کند که در LLMها غایب است:

• پیش‌بینی‌پذیری: ابزارها قطعی، قابل‌اعتماد و دارای عملکردهای محدودی هستند.
• بازخورد: استفاده از ابزار، داده‌های حسی و جهت‌دهی مداومی فراهم می‌کند که منجر به ایجاد تخصص می‌شود (برگرفته از واژه experiri به معنای «امتحان کردن»).
• کنترل: کاربر مسیر اتفاقات را به‌طور مستمر هدایت می‌کند، نه از طریق یک درخواست یک‌باره و مجزا.
• نزدیکی: در دست گرفتن ابزار، منبعی برای کنترل و بازخورد هم‌زمان فراهم می‌کند.

در مقابل، LLMها در دسته اتوماسیون قرار می‌گیرند. هیکی اتوماسیون را دستگاه یا فرآیندی می‌داند که به‌تنهایی و با کمترین کنترل مستقیم انسانی یا بدون آن کار می‌کند. او استفاده از LLM را به سفارش غذا از درایو-ترو تشبیه می‌کند: این یک ابزار برای آشپزی نیست، بلکه اتوماسیونی برای «اجتناب از آشپزی» است. در همین راستا، برای تبدیل این مدل‌های زبانی به سیستم‌های عملیاتی، الگوهای معماری خاصی برای فراخوانی ابزارها تعریف شده است تا فاصله میان مدل و دنیای واقعی پر شود.

هزینه واگذاری

وقتی یک برنامه‌نویس برای تولید کد از LLM استفاده می‌کند، در واقع ابزاری برای نوشتن به دست نگرفته است، بلکه عمل نوشتن را به سیستمی واگذار می‌کند که به‌تنها کار می‌کند. شما عمل مدل را هدایت نمی‌کنید؛ بلکه درخواست می‌دهید و مدل بدون صرف انرژی شما، به‌طور مستقل عمل می‌کند.

این گذار یک حلقه بازخورد خطرناک ایجاد می‌کند. با اجتناب از «اصطکاکِ» خواندن مقالات پژوهشی یا فرموله کردن استدلال‌ها، کاربران فرآیند ضروری یادگیری «چگونه فکر کردن» را از دست می‌دهند. هیکی استدلال می‌کند که اگر از LLM برای خلاصه‌سازی پژوهش‌ها استفاده کنید، شما از آن برای خواندن استفاده نکرده‌اید (آن‌طور که شاید از یک Kindle استفاده کنید)، بلکه AI مقالات را خوانده است، نه شما. با این واگذاری، شما موارد زیر را از دست می‌دهید:

• یادگیری نحوه نوشتن از کسانی که در این کار استادند.
• یادگیری نحوه فرموله کردن یک استدلال منطقی.
• متوجه شدن «لبه‌های بحث» و شوخی‌های نویسنده.
• ایجاد اعتماد به برخی نویسندگان و تردید نسبت به برخی دیگر.
• تغذیه ذهن پس‌زمینه با داده‌هایی برای خلق ایده‌های نو.

ریسک اتوماتون

برای کارکنان مدرن، هزینه این اتوماسیون، یک وابستگی متزلزل و مخاطره‌آمیز است. چون LLMها دمدمی‌مزاج هستند و تابع به‌روزرسانی‌های الگوریتمی‌اند، هر «مهارتی» که از طریق بازی با پرامپت‌ها — مانند یافتن «طلسم‌های» درست در یک فایل voodoo.md — به دست آمده باشد، می‌تواند با یک آپدیت نرم‌افزاری ساده بی‌اعتبار شود. این وضعیت شبیه سفارش یک برگر سفارشی بدون پیاز است، فقط برای اینکه برگری تازه بگیرید، اما در نهایت برگری سرد و خیس تحویل بگیرید که فقط پیازهایش از آن گرفته شده است. این عدم پایداری یکی از دلایلی است که بسیاری از عامل‌های هوش مصنوعی در مقیاس صنعتی و استقرار واقعی شکست می‌خورند، چرا که دموی جذاب آن‌ها در محیط کنترل‌شده، به معنای قابلیت اطمینان در دنیای واقعی نیست.

در نهایت، تغییر از ابزار به اتوماسیون به معنای معاوضه رابطه با دنیای واقعی با رابطه با یک ربات است. ابزارها «سرکش» نمی‌شوند، «توطئه» نمی‌کنند یا از «محدوده کنترل» فرار نمی‌کنند، اما اتوماسیون‌ها چنین می‌کنند. در حالی که صنعت ادعا می‌کند AI «فقط یک ابزار» است تا خنثی به نظر برسد، هیکی هشدار می‌دهد که اتوماسیون ویژگی‌های ذاتی دارد که کاربران با نادیده گرفتن آن‌ها، ریسک بزرگی را می‌پذیرند.

گام بعدی شما

• در پروژه‌های حساس، بخش‌های کلیدی کد را به‌جای تولید توسط AI، به‌صورت دستی بنویسید تا «اصطکاک یادگیری» را حفظ کنید.
• هنگام استفاده از خلاصه‌سازها، هر هفته یک مقاله را به‌طور کامل بخوانید تا قدرت تحلیل منبع را از دست ندهید.
• مهارت‌های خود را بر پایه مفاهیم بنیادی بنا کنید، نه بر روی «طلسم‌های» خاص یک مدل زبانی که هر لحظه ممکن است تغییر کند.

اما داستان سخت‌افزاری این تحول و اینکه چگونه تراشه‌ها این اتوماسیون را ارزان‌تر می‌کنند، حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.