Configuration et utilisation du Crawler

Le SEOFuxx Crawler lit votre sitemap.xml et vérifie chaque URL : est-il accessible, redirige-t-il ou renvoie-t-il une erreur?

Ce que le crawler regarde

Il utilise le plan du site comme point de départ et demande chaque URL qui y figure. Pour chaque URL qu'il enregistre :

  • l'état HTTP (OK, redirection, 4xx, 5xx ou inaccessible)
  • si l'URL était toujours dans le plan du site au dernier crawl
  • quand il a été chargé pour la dernière fois avec succès

Le crawler n'évalue pas les métadonnées, les titres, les images ou les temps de chargement. Il stocke le contenu de chaque URL qu'il trouve, de sorte que d'autres évaluations peuvent l'utiliser, comme le coach d'optimisation d'IA sous SERPs. Pour vérifier une page il y a le Page Audit, qui vérifie toujours une seule page.

Commence à ramper

  1. Ouvrir Crawler dans la navigation
  2. Entrez l'URL Sitemap, p.ex. https://your-website.com/sitemap.xml. Il doit se terminer par sitemap.xml. Si vous avez enregistré un domaine de projet, le champ est prérempli.
  3. Cliquez sur Démarrer Crawler

Si vous n'avez pas encore de plan du site, créez-en un avec le Outil Plan du site.

Le formulaire crawler avec l'URL du plan du site et le bouton Démarrer Crawler
Le formulaire crawler avec l'URL du plan du site et le bouton Démarrer Crawler

Rampant automatique

Dans votre compte, vous pouvez activer Auto Crawl pour votre projet (voir Compte : Domaine et mot de passe). La rampe court alors sans que tu fasses quoi que ce soit. L'aperçu montre pour chaque course si elle a été déclenchée Automatique, Manuel ou via API.

Évaluation des résultats

Le rapport Sitemap vous montre en haut comment votre plan du site se déroule : "Votre plan du site est propre", "n URL(s) dans votre plan du site.xml ont besoin d'attention" ou "Votre plan du site.xml n'a pas pu être chargé".

Le rapport du sitemap avec les chiffres pour les URL accessibles, les redirections et les erreurs
Le rapport du sitemap avec les chiffres pour les URL accessibles, les redirections et les erreurs

Chiffres clés

Graphique Signification
URL dans le plan du site Toutes les URL énumérées dans le plan du site
Fraisable URLs qui répondent normalement
Redirections URLs qui redirige vers une autre adresse
Erreurs 4xx URLs qui n'existent pas ou que vous n'êtes pas autorisé à demander
Erreurs 5xx URLs où votre serveur signale une erreur
Enregistrements existants URLs qui étaient dans le plan du site et ont depuis disparu

URLs du problème

La table des URLs Problem énumère, pour chaque URL visible, son état, l'état HTTP, le problème et quand elle pourrait être chargée pour la dernière fois.

La table URLs Problem avec état, statut HTTP et heure de la dernière charge réussie
La table URLs Problem avec état, statut HTTP et heure de la dernière charge réussie

Historique

L'historique Crawl énumère les opérations précédentes avec date, domaine, déclencheur, état du sitemap, erreurs et durée. De cette façon, vous pouvez voir si les choses s'améliorent.

Astuce: Exécutez le crawler de temps en temps, disons une fois par mois, ou allumez Auto Crawl. De cette façon, vous remarquez quand quelque chose empire, avant qu'il n'apparaisse dans le classement.

Régler les problèmes courants

Le plan du site n'a pas pu être chargé

Tant que le plan du site n'est pas accessible, ni SEOFuxx ni Google ne peuvent trouver vos pages à travers elle. Vérifiez que le fichier existe, est assis à l'adresse que vous avez saisie, et n'est pas bloqué par robots.txt ou la protection par mot de passe.

Erreurs 4xx et liens rompus

Entrées mortes dans le budget des déchets du sitemap ramper et blesser votre classement. Enlevez-les du sitemap.xml ou fixez les pages, idéalement avec une redirection 301 vers une page appropriée.

Réorienter

Si le sitemap énumère une URL qui redirige, entrez plutôt la cible. De cette façon, aucun crawler ne doit faire un détour.

Erreurs 5xx

Votre serveur ne pouvait pas gérer la requête. Regardez les journaux du serveur et vérifiez si la page renvoie des erreurs dans le navigateur de façon permanente, aussi.

Avertissement : Sur les grands sites Web avec plusieurs milliers d'URL, un rampement peut prendre plus de temps. Il vaut mieux commencer la nuit ou en dehors des heures de pointe.

Ce contenu est-il utile ?

·