utilisation de robots.txt pour bloquer les pages dynamiques

Consultez la formation au référencement naturel Google de WebRankInfo / Ranking Metrics


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

utilisation de robots.txt pour bloquer les pages dynamiques

Message le Lun Sep 20, 2004 9:38

Bonjour,
Comment est il possible de bloquer les robots sur des pages avec un ? (parametre) pour que google ne les prennent pas comme un contenu dupliqué de mes pages rendues statiques avec de l'url rewriting?


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Lun Sep 20, 2004 10:33

Je voulais dire en fait, est il possible d'utiliser des expressions regulieres dans robots.txt?

Merci


lou
WRInaute impliqué
WRInaute impliqué
 
Messages: 477
Inscription: Dim Mai 09, 2004 17:59

Message le Lun Sep 20, 2004 11:22

non mais il suffit de mettre des règles dans ton .htaccess pour que les ? renvoi vers les pages UR avec un code 301


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Lun Sep 20, 2004 16:16

Non, ta solution n'est pas bonne, je veux faire cette redirection, ou une autre maniere d'enlever ce paramètre, pour Google et non pas pour tout le monde.
Faire ca dans le .htaccess me le ferait pour tout les internautes.

jeroen
WRInaute accro
WRInaute accro
 
Messages: 2384
Inscription: Ven Aoû 30, 2002 13:35

Message le Lun Sep 20, 2004 19:10

Moi pas compendre...
Si tu fais de l'UR, les internautre arriveront par des pages rewritées...
Seuls les moteurs ayant les pages dans leur index tomberont sur le .htaccess ...

Non ??

Erazor
WRInaute accro
WRInaute accro
 
Messages: 5166
Inscription: Sam Fév 14, 2004 10:36

Message le Lun Sep 20, 2004 20:08

midnightfr a écrit:Non, ta solution n'est pas bonne, je veux faire cette redirection, ou une autre maniere d'enlever ce paramètre, pour Google et non pas pour tout le monde.
Faire ca dans le .htaccess me le ferait pour tout les internautes.

en gros tu veux montrer une chose différente aux internautes et aux moteurs
:evil: tu rentres dans le coté obscur

iconso
WRInaute impliqué
WRInaute impliqué
 
Messages: 446
Inscription: Mar Avr 08, 2003 16:17

Re: utilisation de robots.txt pour bloquer les pages dynamiq

Message le Mar Sep 21, 2004 2:41

midnightfr a écrit:Comment est il possible de bloquer les robots sur des pages avec un ? (parametre)

Mets le nom de ta page.extension tout court, et toutes les déclinaisons paramétrées ou non seront bloquées. Par exemple une page -http://www.site.com/rep/page.aspx?param1=aaa&param2=bbb peut être bloquée pour les robots quels que soient les paramètres en ajoutant une ligne contenant ceci dans ton robots.txt :

Disallow: /rep/page.aspx

Si tu veux autoriser la page sans paramètre mais bloquer avec, tu peux mettre :

Disallow: /rep/page.aspx?

Fred


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Mar Sep 21, 2004 9:17

en gros tu veux montrer une chose différente aux internautes et aux moteurs
Evil or Very Mad tu rentres dans le coté obscur


Non, vous avez pas compris
Je m'explique :

J'ai deja de l'url rewriting en place, les pages php ne sont pas accessible pour personne ca y a pas de pb.
Néanmoins, pour du partenariat, j'ai des urls avec un parametre correspondant au partenaire.
Si google enregistre ces urls( venant de partenaires avec un parametre) elles seront présentes dans l'index, et dans les resultats et ces visites seront attribuées aux partenaires alors que c'est une visite de google,(jusque la vous comprenez?)

Pour l'instant je cache donc ces parametres avec du cloaking.
Je cherche donc un moyen pour ne pas cloaker, de cacher automatiquement n'importe qu'elle url de mon site (pas une page en particulier) qui présente un parametre de type ?partenaire=xx

voila, je pense avoir été plus clair ;)


[/quote]

Erazor
WRInaute accro
WRInaute accro
 
Messages: 5166
Inscription: Sam Fév 14, 2004 10:36

Message le Mar Sep 21, 2004 10:35

j'ai été succint alors précision : j'ai compris ton truc mais "l'enfer est quelques fois pavé de bonnes intentions". Pour moi il est dangereux de ne pas montrer la même chose au moteur / internautes. Dans ton cas ce n'est pas une "triche" mais soit sur que GG va etre d'accord avec ça.J'ai un doute peut etre a tort


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Mar Sep 21, 2004 10:57

c'est pour ca que je veux remplacer mon cloaking par une utilisation de robots.txt


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Mar Sep 21, 2004 13:37

Est ce que cette syntaxe serait bonne :
User-agent: *
Disallow: *partenaire=*

Pour permettre d'interdire à tous les moteurs de ne pas indexer les pages dont l'url contient partenaire=

Merci
Nicolas


midnightfr
WRInaute passionné
WRInaute passionné
 
Messages: 529
Inscription: Ven Mar 12, 2004 12:10

Message le Mar Sep 21, 2004 14:45

svp! aidez moi!

iconso
WRInaute impliqué
WRInaute impliqué
 
Messages: 446
Inscription: Mar Avr 08, 2003 16:17

Message le Mer Sep 22, 2004 20:34

midnightfr : as-tu lu mon message un peu plus haut ???

Fred


Jeff-44
WRInaute passionné
WRInaute passionné
 
Messages: 593
Inscription: Ven Sep 03, 2004 14:27

Message le Lun Fév 21, 2005 19:17

Bonsoir
iconso est-ce que ta technique fonctionne pour du php ?
J'ai un système calcul de clique avec des pages du type goto.php?xxx.
Je ne souhaite pas gg et msn (surtout msn qui ne référence que ça :() continue sur ces pages. Sinon je boost les visites de manière non réaliste.
Est-ce que cela suffit :
User-Agent: *
Disallow:goto.php

Merci de vos réponses

iconso
WRInaute impliqué
WRInaute impliqué
 
Messages: 446
Inscription: Mar Avr 08, 2003 16:17

Message le Lun Fév 21, 2005 19:39

Oui, l'exemple était donné en ASPX, mais il est valable pour toutes les extensions de fichiers, et même les débuts d'extension normalement (je n'ai pas testé, mais un disallow: /page.php doit empecher le crawl de /page.php3 par exemple). Ces URLs pourront se trouver dans l'index, mais ne seront ni visitées, ni complètement indexées par GG (et ne pourront donc à priori réagir sur aucun mot clef)

Fred

utilisation de robots.txt pour bloquer les pages dynamiques

Formation recommandée sur ce thème :

Formation Référencement naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.

Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.

Lectures recommandées sur ce thème :

Consultez la description détaillée des produits ou services de Google suivants : Google Site Stats, Omnisio



Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités