Yahoo Slurp et mon robots.txt
3 messages • Page 1 sur 1
Consultez la formation au référencement naturel Google de WebRankInfo / Ranking Metrics
Yahoo Slurp et mon robots.txt
Je constate une grande histoire d'amour entre ces deux individus.
Jusqu'au 30/03/05 mon site (dans le www) était crawlé par yahooseeker et depuis par yahoo slurp.
Seulement il y a un problème : si ce dernier vient 3 fois par jour, il se contente de mon fichier robots.txt qui, je le précise, ne l'exclue pas.
D'où seulement 2 pages d'indexées alors que j'en avais péniblement 15 avec yahooseeker.
Quelqu'un a-t-il une idée ?
Jusqu'au 30/03/05 mon site (dans le www) était crawlé par yahooseeker et depuis par yahoo slurp.
Seulement il y a un problème : si ce dernier vient 3 fois par jour, il se contente de mon fichier robots.txt qui, je le précise, ne l'exclue pas.
D'où seulement 2 pages d'indexées alors que j'en avais péniblement 15 avec yahooseeker.
Quelqu'un a-t-il une idée ?
Attention ceci n'est pas un UP mais un début de réponse à ma propre question.
Je me suis fait avoir par 2 rediréction 302 (je sais j'avais pris la défense de ce type d'annuaire).
En effet, yahoo a comme cache de mes 2 dernières pages l'adresse de la redirection (goto...).
J'espère ne pas faire fausse route puisque j'ai interdit l'accès à Slurp par robots.txt le temps d'être totalement désindexé puis je repartirais avec une nouvelle indexation Yahoo.
Je me suis fait avoir par 2 rediréction 302 (je sais j'avais pris la défense de ce type d'annuaire).
En effet, yahoo a comme cache de mes 2 dernières pages l'adresse de la redirection (goto...).
J'espère ne pas faire fausse route puisque j'ai interdit l'accès à Slurp par robots.txt le temps d'être totalement désindexé puis je repartirais avec une nouvelle indexation Yahoo.
3 messages • Page 1 sur 1
Formation recommandée sur ce thème :
Formation Référencement naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.
Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.
Lectures recommandées sur ce thème :
- Petit changement pour Slurp (le robot de Yahoo)
- Les crawlers de Yahoo!
- Yahoo Slurp et autres robots d'indexation de Yahoo
- Robots.txt : Yahoo supporte les options avancées
- La balise meta NOYDIR de Yahoo
- Comment faire ignorer des zones de page pour Yahoo (robots-nocontent)
- Changements dans l'algorithme de Yahoo (sept 2007)
- Déclarer son fichier sitemap dans le fichier robots.txt
- Yahoo Audio Search
- Référencement : gestion des redirections par Yahoo
- Passage du robot Inktomi Slurp mais pas de Yahoo Slurp
- Yahoo!Slurp 68.142.251.14 : un nouveau spider de Yahoo ?
- Yahoo! Slurp 3.0 le nouveau robot de Yahoo
- Yahoo slurp FR vs US ?
- yahoo Slurp crawle que /
- Slurp Yahoo et Inktomi
- Yahoo Slurp et les redirections
- yahoo slurp comment faire?
- Erreur %E2%8C%A9=en avec Yahoo-slurp
- gros crawl yahoo slurp
Consultez la description détaillée des produits ou services de Google suivants : Google Sitemaps
- Trouver la position de son site dans Yahoo
Cet outil vous permet de vérifier si une ou plusieurs page(s) de votre site arrive(nt) dans les premiers résultats de Yahoo, pour certains mots-clés recherchés. - Logiciel d'analyse du positionnement
AgentWebRanking est un logiciel professionnel qui permet d'analyser le positionnement d'un ou plusieurs sites dans plus de 300 moteurs de recherche dans le monde. Vous pouvez ainsi analyser les performances du référencement pour de nombreux mots-clés.
Qui est en ligne
Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités




le forum