Passer au contenu principal

Synchroniser des données web dans des workflows Langflow

Firecrawl peut être utilisé dans Langflow, l’outil de création de workflows IA. Cette page explique comment configurer et utiliser un bloc Firecrawl dans Langflow. Bloc Firecrawl dans Langflow

Installer le bundle Firecrawl

Les blocs Firecrawl sont fournis dans le bundle lfx-firecrawl, qui n’est pas inclus dans l’installation par défaut de Langflow. Installez-le dans le même environnement que Langflow, puis redémarrez Langflow :
Le bundle ajoute quatre blocs : Firecrawl Scrape API, Firecrawl Crawl API, Firecrawl Map API et Firecrawl Search API. Chacun renvoie la réponse de l’API Firecrawl sous forme de Data. Consultez la documentation du bundle Firecrawl pour Langflow pour la liste complète des paramètres.

Scraping avec les blocs Firecrawl

  1. Connectez-vous à votre compte Firecrawl, récupérez votre clé API, puis saisissez-la dans le bloc ou passez-la depuis une autre partie du workflow.
  2. Ajoutez le bloc Firecrawl Scrape API pour récupérer une seule page.
  3. Indiquez l’URL cible à scraper ou passez-la depuis une autre partie du workflow.
  4. Configurez les options d’extraction selon le site et les données recherchées, notamment les formats de sortie et l’option permettant de ne renvoyer que le contenu principal. Vous pouvez aussi les passer depuis une autre partie du workflow.
  5. (Facultatif) Configurez les Options de l’extracteur (Extractor Options) pour obtenir du JSON structuré à partir de la page.
  6. Utilisez les données dans vos workflows.

Exploration, mapping et recherche

  • Firecrawl Crawl API explore une URL et ses sous-pages. Définissez les limites et les chemins dans Options du robot d’exploration, et les paramètres de chaque page dans Options d’extraction.
  • Firecrawl Map API renvoie les URL d’un ou de plusieurs sites.
  • Firecrawl Search API lance une recherche sur le web à partir d’une requête, avec une Limite de résultats et une Localisation facultatives.