Yahoo Slurp et mon robots.txt
3 messages
• Page 1 sur 1
Consultez la formation au REFERENCEMENT naturel Google de WebRankInfo / Ranking Metrics
-

serval2a - WRInaute accro

- Messages: 3457
- Inscription: 21 Mar 2005
Yahoo Slurp et mon robots.txt
Je constate une grande histoire d'amour entre ces deux individus.
Jusqu'au 30/03/05 mon site (dans le www) était crawlé par yahooseeker et depuis par yahoo slurp.
Seulement il y a un problème : si ce dernier vient 3 fois par jour, il se contente de mon fichier robots.txt qui, je le précise, ne l'exclue pas.
D'où seulement 2 pages d'indexées alors que j'en avais péniblement 15 avec yahooseeker.
Quelqu'un a-t-il une idée ?
Jusqu'au 30/03/05 mon site (dans le www) était crawlé par yahooseeker et depuis par yahoo slurp.
Seulement il y a un problème : si ce dernier vient 3 fois par jour, il se contente de mon fichier robots.txt qui, je le précise, ne l'exclue pas.
D'où seulement 2 pages d'indexées alors que j'en avais péniblement 15 avec yahooseeker.
Quelqu'un a-t-il une idée ?
-

serval2a - WRInaute accro

- Messages: 3457
- Inscription: 21 Mar 2005
Attention ceci n'est pas un UP mais un début de réponse à ma propre question.
Je me suis fait avoir par 2 rediréction 302 (je sais j'avais pris la défense de ce type d'annuaire).
En effet, yahoo a comme cache de mes 2 dernières pages l'adresse de la redirection (goto...).
J'espère ne pas faire fausse route puisque j'ai interdit l'accès à Slurp par robots.txt le temps d'être totalement désindexé puis je repartirais avec une nouvelle indexation Yahoo.
Je me suis fait avoir par 2 rediréction 302 (je sais j'avais pris la défense de ce type d'annuaire).
En effet, yahoo a comme cache de mes 2 dernières pages l'adresse de la redirection (goto...).
J'espère ne pas faire fausse route puisque j'ai interdit l'accès à Slurp par robots.txt le temps d'être totalement désindexé puis je repartirais avec une nouvelle indexation Yahoo.
3 messages
• Page 1 sur 1
Formation recommandée sur ce thème :
Formation REFERENCEMENT naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.
Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.
Lectures recommandées sur ce thème :
- Passage du robot Inktomi Slurp mais pas de Yahoo Slurp
- Yahoo!Slurp 68.142.251.14 : un nouveau spider de Yahoo ?
- Yahoo! Slurp 3.0 le nouveau robot de Yahoo
- Yahoo slurp FR vs US ?
- yahoo Slurp crawle que /
- Slurp Yahoo et Inktomi
- Problème avec yahoo slurp
- Yahoo Slurp et les redirections
- yahoo slurp comment faire?
- Erreur %E2%8C%A9=en avec Yahoo-slurp
- Petit changement pour Slurp (le robot de Yahoo)
- Les crawlers de Yahoo!
- Yahoo Slurp et autres robots d'indexation de Yahoo
- Robots.txt : Yahoo supporte les options avancées
- La balise meta NOYDIR de Yahoo
- Comment faire ignorer des zones de page pour Yahoo (robots-nocontent)
- Changements dans l'algorithme de Yahoo (sept 2007)
Consultez la description détaillée des produits ou services de Google suivants : Google Sitemaps
- Trouver la position de son site dans Yahoo
Cet outil vous permet de vérifier si une ou plusieurs page(s) de votre site arrive(nt) dans les premiers résultats de Yahoo, pour certains mots-clés recherchés. - Logiciel d'analyse du positionnement
AgentWebRanking est un logiciel professionnel qui permet d'analyser le positionnement d'un ou plusieurs sites dans plus de 300 moteurs de recherche dans le monde. Vous pouvez ainsi analyser les performances du référencement pour de nombreux mots-clés.
Qui est en ligne
Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités


