Impact gestion paramètre url sur Googlebot

Consultez la formation au REFERENCEMENT naturel Google de WebRankInfo / Ranking Metrics

Franck38
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 3
Enregistré le: 13 Juin 2013

Impact gestion paramètre url sur Googlebot

Message le Ven Mai 12, 2017 14:00

Hello tout le monde,

Après avoir commencer une analyse de log sur mon site, je viens de m'apercevoir que googleBot passe environ 50% de son temps à crawler des pages (environ 150k pages par mois) avec des paramètres de tracking dans les urls ainsi que des paramètre de sessions, qui n'ont donc aucune utilité car elles ont le même contenu (le risque de duplicate content a été enlevé en mettant une balise canonical sur les pages avec paramètres)
Environ 90% de ces 150k urls sont crawlées une seule fois.
Même si la plupart des urls sont crawlées qu'une seule fois, cela doit tout de même avec un impact sur mon budget de Crawl (en effet, seulement 50% de mon site est crawlé par googlebot)

Après avoir vérifié sur Google Search Console, les différents paramètres d'url utilisés (utm_term, utm_source, gclsrc, gclid etc...) ne sont pas exclus.

Pensez-vous que le fait d'indiquer à Google la liste des paramètres évoqués comme d'"affectant pas le contenu de la page (il permet d'effectuer le suivi des utilisateurs)" aura un impact positif sur le crawl de ces pages par googlebot ? Est-ce que cette manoeuvre suffira ? ou bien faut-il également l'indiquer sur le robots.txt ?

Le but étant de évidement de faire en sorte que GoogleBot ne passe plus 50% de son temps sur des pages inutiles.

Merci !

noren
WRInaute accro
WRInaute accro
 
Messages: 2872
Enregistré le: 8 Avr 2011

Re: Impact gestion paramètre url sur Googlebot

Message le Ven Mai 12, 2017 18:53

La question est de savoir pourquoi il crawl ces pages? Comment se fait-il qu'il crawl des pages avec des parametres de sessions ? la possibilité des sessions via l'url doit être bloqué.
Si google crawl toutes ces pages c'est qu'elles sont linkées quelques part. Tu dois régler ce problème en plus de l'ajout des liens canoniques.


WebRankInfo
Administrateur du site
Administrateur du site
 
Messages: 22966
Enregistré le: 19 Avr 2002

Re: Impact gestion paramètre url sur Googlebot

Message le Sam Mai 13, 2017 11:54

je conseille très fortement de régler le pb sur le site lui-même et pas dans cette interface (que je détaille dans cet article)

Franck38
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 3
Enregistré le: 13 Juin 2013

Re: Impact gestion paramètre url sur Googlebot

Message le Lun Mai 15, 2017 9:11

Merci pour vos réponses.
En l’occurrence ces urls ne semblent pas être linkés quelque part, car elles sont visiblement toutes orphelines.

Je vais effectivement essayer de régler le problème en amont. J'avais justement lu votre article c'est pourquoi je pensais que d'indiquer à Google que les paramètres n'affectent pas le contenu de la page (il permet d'effectuer le suivi des utilisateurs) permettrait en théorie de résoudre le problème des sites avec des identifiants de session dans les URL qui freinent considérablement le crawl (et donc l'indexation) (comme indiqué dans votre article).

J'ai tout de même indiqué à google que c'était des paramètres sans effet sur le contenu pour voir comment il réagit, le temps que je trouve pourquoi ces urls sont générées et surtout comment les éradiquer.

Franck38
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 3
Enregistré le: 13 Juin 2013

Re: Impact gestion paramètre url sur Googlebot

Message le Mer Mai 17, 2017 11:27

J'ai une dernière question pour vous :)

J'ai bien conscience qu'il faut absolument résoudre le problème en amont, c'est-à-dire arrêter de générer ces pages automatiquement (pour l'instant je n'arrive pas à comprendre comment ses urls sont générées...) Cependant je n'arrive toujours pas à comprendre comment google peut crawler autant d'urls orphelines

Pour rappel aucune des pages avec paramètres ne sont indexées, mais selon moi elles dépensent énormément mon budget de crawl

Comment est-ce que je peux stopper le crawl de ses pages par google ?
- Via la gestion des paramètres d'url de Google Search Console ?
- Ou alors faut-il bloquer ses paramètres dans mon robots.txt ?

Voici un example de "fin" d'url avec les paramètres générés :
.html?utm_source=criteo&utm_medium=remarketing&utm_campaign=test&utm_term=dkr-lis&COBRANDED=test&acntb=flight&dclid=CNT7toC-6tECFUEQgQodbBoMtw&callback=myCallBack&_=1492992000000

Si j'opte pour la deuxième solution, comment est-ce que je dois le mentionner dans mon fichier robots.txt (désolé je ne suis pas trop un expert là dessus...) ?

Est-ce que je dois créer une ligne pour chacun des paramètres ?
Sachant que je veux exclure uniquement ses paramètres..

Merci pour votre aide


Formation recommandée sur ce thème :

Formation REFERENCEMENT naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.

Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.

Lectures recommandées sur ce thème :