پرش به محتوای اصلی
پرش به محتوای مقاله

تبدیل وب‌سایت‌ها به دیتابیس Markdown در مدل Hermes با افزونه Firecrawl

·۳۱ خرداد ۱۴۰۵۲ دقیقه مطالعه
راهنما
تبدیل هر وب‌سایت به مارک‌داون تمیز با مهارت Firecrawl برای Hermes
تبدیل هر وب‌سایت به مارک‌داون تمیز با مهارت Firecrawl برای Hermes
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

تغییر پارادایم از ساخت خط لوله استخراج داده (Parsing Pipeline) به تعریف هدف؛ اکنون عامل هوش مصنوعی خودش تصمیم می‌گیرد چه چیزی از وب استخراج شود و آن را به فرمت استاندارد Markdown تبدیل کند.

تصور کنید یک برنامه‌نویس است که می‌خواهد صدها قیمت محصول از وب‌سایت‌های مختلف جمع کند، اما با دیوارهای پیچیده کد و تبلیغات مواجه می‌شود. این چالش هم‌اکنون با یک کلیک حل شده است.

به نقل از مستندات فنی این پروژه، در ۲۱ ژوئن ۲۰۲۶ قابلیت Firecrawl برای Hermes فعال شد تا عامل‌ها بتوانند بدون درگیر شدن با کدهای مزاحم HTML، مستقیماً به محتوای خالص دسترسی داشته باشند. این پیشرفت در راستای تسهیل تعامل کاربران با سیستم است، مشابه آن‌چه در ساده‌سازی گردش‌کارهای چندعاملی در اپلیکیشن Hermes شاهد بودیم.

استخراج داده از وب در حال حاضر شبیه تلاش برای بیرون کشیدن یک تکه نخ از یک کلاف پیچیده است؛ چون بیشتر صفحات مدرن با جاوااسکریپت رندر می‌شوند و درخواست‌های ساده HTTP معمولاً شکست می‌خورند. همان‌طور که در پوشش پیشین ما از امنیت مدل‌های بازمتن دیدیم، دسترسی به داده‌های پاک، کلید اثربخشی مدل‌هاست. این ادغام با تبدیل API نسخه دوم Firecrawl به یک کمکی پایتونی، تمام کارهای سخت استخراج را بر عهده می‌گیرد. این رویکرد مبتنی بر متن، جایگزینی کارآمد برای متدهای پیچیده‌تر است، مانند استفاده از بینایی ماشین برای تحلیل کدهای CSS جهت استخراج ساختاریافته.

طبق گزارش راهنمای فنی dev.to، این ابزار چهار قابلیت کلیدی را فعال می‌کند:

  • تبدیل به Markdown تمیز: حذف تمام نویزهای HTML و تبدیل صفحه به متنی ساده.
  • جست‌وجوی وب: دریافت مستقیم محتوای کامل صفحات از نتایج جست‌وجو.
  • استخراج ساختاریافته: استفاده از پرامپت‌ها برای استخراج داده‌های خاص (مثل قیمت‌ها) در قالب JSON.
  • تعامل پویا: امکان کلیک بر روی دکمه‌ها و پر کردن فرم‌ها در صفحات زنده.

برای پیاده‌سازی، کاربران باید کلید FIRECRAWL_API_KEY را به فایل .hermes/.env اضافه کنند. سپس سیستم درخواست‌های زبان طبیعی — مثلاً «تمام قیمت‌های محصولات این صفحه را استخراج کن» — را مستقیماً به API فایرکراول می‌فرستد.

این تغییر نقش برنامه‌نویس را از «سازنده استخراج‌کننده» به «تعیین‌کننده هدف» تغییر می‌دهد. با تبدیل وب به یک پایگاه‌داده Markdown، عامل‌های Hermes اکنون می‌توانند بدون مشکلات همیشگی اسکرپرهای سفارشی، پژوهش‌های آنی و داده‌کاوی انجام دهند.

این ابزار اکنون در مخزن hermes-skills در دسترس است. پیش‌بینی می‌شود تکامل بعدی این فناوری، پیمایش چندصفحه‌ای پیچیده و حفظ وضعیت کاربر در نشست‌های مختلف وب باشد.

گام بعدی شما

  • مخزن hermes-skills را برای بررسی کدهای پیاده‌سازی بررسی کنید.
  • جریان‌های کاری خود را از اسکرپرهای سنتی به رویکرد هدف‌محور (Goal-oriented) تغییر دهید.
  • برای استخراج داده‌های حساس، ترکیب این ابزار با مدل‌های استدلالی را امتحان کنید.

اما تأثیر این دسترسی سریع به داده‌ها بر دقت پاسخ‌های مدل‌ها حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی RAG مراجعه کنید.

چرا این موضوع مهم است؟

این ابزار با حذف نیاز به مهندسی پیچیده برای Scraping، سرعت توسعه عامل‌های تجاری را به‌شدت بالا می‌برد. اعتبار این رویکرد از توانایی Firecrawl در رندر کردن جاوااسکریپت می‌آید که نقطه ضعف اکثر ابزارهای استخراج داده بود.

تأثیر برای ایران

برنامه‌نویسان ایرانی برای استفاده از این قابلیت نیاز به کلید API فایرکراول دارند که دسترسی به آن ممکن است نیازمند ابزارهای تغییر IP باشد.

·نگاه ما
تحریریه دات‌هوش

این ادغام نشان می‌دهد که آیندهٔ عامل‌های هوشمند در «ساده‌سازی ورودی‌ها»ست، نه لزوماً پیچیده‌تر کردن مدل‌ها. وقتی وب را به صورت Markdown می‌بینیم، در واقع لایه‌ی واسط بین ماشین و داده را حذف کرده‌ایم که این یعنی کاهش چشم‌گیر توهمات ناشی از کدهای HTML مزاحم.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.