LangChain | Firecrawl

Package officiel : langchain-firecrawl · code sourceUtilisez LangChain pour scraper, crawl, cartographier, extraire et rechercher avec Firecrawl, comme chargeur de documents ou outil d’agent.

Installation

pip install langchain-firecrawl

Obtenez une clé sur firecrawl.dev et définissez-la dans votre environnement (ou passez api_key=...) :

export FIRECRAWL_API_KEY="fc-your-api-key"

Chargeur de documents

FirecrawlLoader renvoie des Document LangChain. Choisissez un mode :

Mode	Contenu chargé
`scrape`	Une page
`crawl`	Un site entier
`map`	Les URL découvertes
`extract`	Des données structurées
`search`	Des résultats de recherche web

from langchain_firecrawl import FirecrawlLoader

loader = FirecrawlLoader(url="https://www.firecrawl.dev", mode="scrape")
docs = loader.load()

print(docs[0].page_content[:200])
print(docs[0].metadata)

Outils Agent

Chaque fonctionnalité est également un BaseTool que vous pouvez associer à un agent :

from langchain_firecrawl import (
    FirecrawlScrape,
    FirecrawlCrawl,
    FirecrawlMap,
    FirecrawlExtract,
    FirecrawlSearch,
)

scrape = FirecrawlScrape()
result = scrape.invoke({"url": "https://www.firecrawl.dev"})
print(result["markdown"])

search = FirecrawlSearch()
print(search.invoke({"query": "best web scraping libraries", "limit": 5}))

LangChain JS

Le chargeur JavaScript est inclus dans @langchain/community et requiert le SDK JavaScript de Firecrawl comme dépendance homologue :

npm install @langchain/community @mendable/firecrawl-js

import { FireCrawlLoader } from "@langchain/community/document_loaders/web/firecrawl";

const loader = new FireCrawlLoader({
  url: "https://firecrawl.dev",
  apiKey: process.env.FIRECRAWL_API_KEY, // par défaut : FIRECRAWL_API_KEY
  mode: "scrape", // "scrape" pour une page unique, "crawl" pour les sous-pages
});

const docs = await loader.load();

Ressources

langchain-firecrawl sur PyPI
Documentation sur Firecrawl scrape et crawl
Firecrawl Python SDK et Node SDK