Fonctionnement
- Actualisation par défaut :
maxAge = 172800000
ms (2 jours). Si la copie en cache est plus récente, elle est renvoyée instantanément ; sinon, Firecrawl relance une extraction et met à jour le cache. - Forcer du frais : Définissez
maxAge: 0
pour toujours ré-extraire. - Ignorer le cache : Définissez
storeInCache: false
si vous ne souhaitez pas stocker les résultats d’une requête.
maxAge
:
- Retour instantané si une version récente de la page est disponible
- Extraction à jour uniquement si notre version est plus ancienne que l’âge spécifié
- Gagnez du temps — les résultats reviennent en millisecondes plutôt qu’en secondes
Quand l’utiliser
- Documentation, articles, pages produit
- Traitements par lots
- Développement et tests
- Création de bases de connaissances
- Données en temps réel (cours boursiers, scores en direct, dernières actualités)
- Contenu fréquemment mis à jour
- Applications sensibles au facteur temps
Utilisation
maxAge
à votre requête de scraping. Les valeurs sont en millisecondes (p. ex. 3600000
= 1 heure).
Valeurs courantes de maxAge
- 5 minutes :
300000
— pour du contenu semi‑dynamique - 1 heure :
3600000
— pour du contenu mis à jour chaque heure - 1 jour :
86400000
— pour du contenu mis à jour quotidiennement - 1 semaine :
604800000
— pour du contenu relativement statique
Impact sur les performances
maxAge
activé :
- Des temps de réponse jusqu’à 500 % plus rapides pour le contenu récent
- Des résultats instantanés plutôt que d’attendre de nouveaux scrapes
Notes importantes
- Par défaut :
maxAge
est172800000
(2 jours) - Actualisé si nécessaire : si nos données sont plus anciennes que
maxAge
, nous réexécutons automatiquement le scraping - Aucune donnée périmée : vous ne recevrez jamais de données plus anciennes que le
maxAge
que vous avez spécifié
Exploration plus rapide
maxAge
dans scrapeOptions
pour récupérer des résultats en cache pour les pages que nous avons traitées récemment.
maxAge
, chaque page de votre crawl profitera d’une accélération de 500 % si nous disposons de données récentes en cache pour cette page.
Commencez à utiliser maxAge
dès aujourd’hui pour des scrapes et des crawls nettement plus rapides !