Yahoo Slurp et mon robots.txt

Consultez la formation au REFERENCEMENT naturel Google de WebRankInfo / Ranking Metrics


serval2a
WRInaute accro
WRInaute accro
 
Messages: 3457
Inscription: 21 Mar 2005

Yahoo Slurp et mon robots.txt

Message le Mer Avr 20, 2005 8:15

Je constate une grande histoire d'amour entre ces deux individus.

Jusqu'au 30/03/05 mon site (dans le www) était crawlé par yahooseeker et depuis par yahoo slurp.

Seulement il y a un problème : si ce dernier vient 3 fois par jour, il se contente de mon fichier robots.txt qui, je le précise, ne l'exclue pas.

D'où seulement 2 pages d'indexées alors que j'en avais péniblement 15 avec yahooseeker.

Quelqu'un a-t-il une idée ?


serval2a
WRInaute accro
WRInaute accro
 
Messages: 3457
Inscription: 21 Mar 2005

Message le Jeu Avr 21, 2005 15:30

Attention ceci n'est pas un UP mais un début de réponse à ma propre question.

Je me suis fait avoir par 2 rediréction 302 (je sais j'avais pris la défense de ce type d'annuaire).

En effet, yahoo a comme cache de mes 2 dernières pages l'adresse de la redirection (goto...).

J'espère ne pas faire fausse route puisque j'ai interdit l'accès à Slurp par robots.txt le temps d'être totalement désindexé puis je repartirais avec une nouvelle indexation Yahoo.


Mumuri
WRInaute passionné
WRInaute passionné
 
Messages: 1800
Inscription: 3 Nov 2004

Message le Ven Avr 22, 2005 17:54

a la limite tu peux peut etre modifier ton code pour que le fichier robots.txt soit éffacé quand yahoo slurp vient te faire un coucou et recrée quand il s'en va


Si vous avez aimé cette discussion, partagez-la sur vos réseaux sociaux préférés :

Formation recommandée sur ce thème :

Formation REFERENCEMENT naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.

Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.

Lectures recommandées sur ce thème :

Consultez la description détaillée des produits ou services de Google suivants : Google Sitemaps

  • Trouver la position de son site dans Yahoo
    Cet outil vous permet de vérifier si une ou plusieurs page(s) de votre site arrive(nt) dans les premiers résultats de Yahoo, pour certains mots-clés recherchés.
  • Logiciel d'analyse du positionnement
    AgentWebRanking est un logiciel professionnel qui permet d'analyser le positionnement d'un ou plusieurs sites dans plus de 300 moteurs de recherche dans le monde. Vous pouvez ainsi analyser les performances du référencement pour de nombreux mots-clés.


Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités