چرا اکثر پروژه‌های لایه‌ی کاربر در هوش مصنوعی شکست می‌خورند؟

اگر امروز در حال ساخت یک پروژه جانبی با هوش مصنوعی هستید، بزرگ‌ترین ریسک شما باگ‌های نرم‌افزاری نیست، بلکه تولید «آشغال‌های هوش مصنوعی» (AI Slop) است. این اصطلاح به سیل ابزارهای کم‌ارزش اشاره دارد که هیچ کاربرد منحصر‌به‌فردی جز یک فراخوانی ساده از API ندارند.

طبق گزارشی که در ۱۷ ژوئن ۲۰۲۶ در وب‌سایت dev.to توسط Codekeeper X منتشر شد، سد ورود به این بازار چنان پایین آمده که دنیا در انبوهی از ابزارهای مشابه غرق شده است؛ ابزارهایی که مدام دچار توهم (Hallucination) — شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — می‌شوند و ارزش واقعی خلق نمی‌کنند. به نقل از همین منبع، پروژه‌هایی که تنها به GPT-4 به عنوان نقطه قوت خود تکیه می‌کنند، هیچ «خندق دفاعی» ندارند و احتمالاً با یک به‌روزرسانی ساده از سوی OpenAI از بین می‌روند.

بسیاری از پروژه‌های فعلی را باید «تنظیمات» نامید، نه مهندسی واقعی. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تکیه صرف به لایه‌ی مدل بدون لایه‌ی کنترلی، ریسک شکست را بالا می‌برد. نویسنده سه نشانه برای این شکست ذکر می‌کند: رابط‌های کاربری تکراری، نبودِ درک از بستر متن (Context) و پذیرش بی‌قید و شرط توهمات مدل.

برای عبور از این وضعیت، توسعه‌دهنده باید مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحنی جواب می‌دهد — را نه به عنوان کل محصول، بلکه تنها یک قطعه از یک سیستم پیچیده‌تر ببیند. برای پیاده‌سازی یک «پشته ضد-آشغال»، موارد زیر توصیه شده است:

• استفاده از Pydantic در کنار LangChain برای اجبار مدل به خروجی‌های JSON دقیق و حذف حشوهای متنی.
• ادغام تولید بازیابی‌افزا (RAG) — شبیه دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند — و تنظیم دقیق (Fine-tuning) برای شکست دادن مدل‌های عمومی.
• ساخت «خندق‌های تأیید» از طریق نقشه‌برداری از استنادات و تست‌های واحد قطعی برای کدهای تولید شده.
• به‌کارگیری ابزارهایی مثل Promptfoo برای ارزیابی و LangSmith برای نظارت بر عملکرد.

این تغییر مسیر به معنای پایان عصر «هوش مصنوعی افقی» است، چرا که غول‌هایی مثل گوگل و Anthropic مالک این لایه هستند. تنها راه برای بنیان‌گذاران مستقل، «هوش مصنوعی عمودی» است؛ یعنی ساخت راهکارهای عمیق برای نقش‌های خاص، مثل نوشتن لوایح دفاعی حقوقی برای وکلا در تگزاس. با جمع‌آوری داده‌های ترجیحی در طول زمان، می‌توان مدل‌های کوچک‌تر و ارزان‌تری مثل Llama-3 8B یا Mistral را آموزش داد تا در یک حوزه خاص، حتی از GPT-4 هم بهتر عمل کنند.

گام بعدی شما

• زنجیره‌ی پرامپت‌های فعلی خود را بررسی کنید و ببینید کجا می‌توان آن‌ها را با خروجی‌های ساختاریافته‌ی Pydantic جایگزین کرد تا پایداری سیستم بالا برود.
• به جای ایده‌های انتزاعی، گردش‌های کاری را پیدا کنید که در حال حاضر با ابزارهای بی‌کیفیت پر شده‌اند و یک «هسته» (Kernel) کوچک بسازید که فقط یک کار را بی‌نقص انجام دهد.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک اینکه مدل‌های کوچک چگونه در سخت‌افارهای لبه جای می‌گیرند، به تحلیل ما درباره‌ی رایانش لبه مراجعه کنید.