Messages: 3

Enregistré le: 13 Juin 2013

Message le Ven Mai 12, 2017 15:00

Hello tout le monde,

Après avoir commencer une analyse de log sur mon site, je viens de m'apercevoir que googleBot passe environ 50% de son temps à crawler des pages (environ 150k pages par mois) avec des paramètres de tracking dans les urls ainsi que des paramètre de sessions, qui n'ont donc aucune utilité car elles ont le même contenu (le risque de duplicate content a été enlevé en mettant une balise canonical sur les pages avec paramètres)
Environ 90% de ces 150k urls sont crawlées une seule fois.
Même si la plupart des urls sont crawlées qu'une seule fois, cela doit tout de même avec un impact sur mon budget de Crawl (en effet, seulement 50% de mon site est crawlé par googlebot)

Après avoir vérifié sur Google Search Console, les différents paramètres d'url utilisés (utm_term, utm_source, gclsrc, gclid etc...) ne sont pas exclus.

Pensez-vous que le fait d'indiquer à Google la liste des paramètres évoqués comme d'"affectant pas le contenu de la page (il permet d'effectuer le suivi des utilisateurs)" aura un impact positif sur le crawl de ces pages par googlebot ? Est-ce que cette manoeuvre suffira ? ou bien faut-il également l'indiquer sur le robots.txt ?

Le but étant de évidement de faire en sorte que GoogleBot ne passe plus 50% de son temps sur des pages inutiles.

Merci !
Haut
4 Réponses
Messages: 2902

Enregistré le: 8 Avr 2011

Message le Ven Mai 12, 2017 19:53

La question est de savoir pourquoi il crawl ces pages? Comment se fait-il qu'il crawl des pages avec des parametres de sessions ? la possibilité des sessions via l'url doit être bloqué.
Si google crawl toutes ces pages c'est qu'elles sont linkées quelques part. Tu dois régler ce problème en plus de l'ajout des liens canoniques.
Haut
Messages: 23067

Enregistré le: 19 Avr 2002

Message le Sam Mai 13, 2017 12:54

je conseille très fortement de régler le pb sur le site lui-même et pas dans cette interface (que je détaille dans cet article)
Haut
Messages: 3

Enregistré le: 13 Juin 2013

Message le Lun Mai 15, 2017 10:11

Merci pour vos réponses.
En l’occurrence ces urls ne semblent pas être linkés quelque part, car elles sont visiblement toutes orphelines.

Je vais effectivement essayer de régler le problème en amont. J'avais justement lu votre article c'est pourquoi je pensais que d'indiquer à Google que les paramètres n'affectent pas le contenu de la page (il permet d'effectuer le suivi des utilisateurs) permettrait en théorie de résoudre le problème des sites avec des identifiants de session dans les URL qui freinent considérablement le crawl (et donc l'indexation) (comme indiqué dans votre article).

J'ai tout de même indiqué à google que c'était des paramètres sans effet sur le contenu pour voir comment il réagit, le temps que je trouve pourquoi ces urls sont générées et surtout comment les éradiquer.
Haut
Messages: 3

Enregistré le: 13 Juin 2013

Message le Mer Mai 17, 2017 12:27

J'ai une dernière question pour vous :)

J'ai bien conscience qu'il faut absolument résoudre le problème en amont, c'est-à-dire arrêter de générer ces pages automatiquement (pour l'instant je n'arrive pas à comprendre comment ses urls sont générées...) Cependant je n'arrive toujours pas à comprendre comment google peut crawler autant d'urls orphelines

Pour rappel aucune des pages avec paramètres ne sont indexées, mais selon moi elles dépensent énormément mon budget de crawl

Comment est-ce que je peux stopper le crawl de ses pages par google ?
- Via la gestion des paramètres d'url de Google Search Console ?
- Ou alors faut-il bloquer ses paramètres dans mon robots.txt ?

Voici un example de "fin" d'url avec les paramètres générés :
.html?utm_source=criteo&utm_medium=remarketing&utm_campaign=test&utm_term=dkr-lis&COBRANDED=test&acntb=flight&dclid=CNT7toC-6tECFUEQgQodbBoMtw&callback=myCallBack&_=1492992000000

Si j'opte pour la deuxième solution, comment est-ce que je dois le mentionner dans mon fichier robots.txt (désolé je ne suis pas trop un expert là dessus...) ?

Est-ce que je dois créer une ligne pour chacun des paramètres ?
Sachant que je veux exclure uniquement ses paramètres..

Merci pour votre aide
Haut