Robots.txt du site webrankinfo
6 messages • Page 1 sur 1
Robots.txt du site webrankinfo
par curiosité j'ai regardé le robots.txt de webrankinfo:
http://www.webrankinfo.com/robots.txt
et je reste étonné sur le fait qu'il y ait 2 espaces qui séparent "User-agent:" et "*"
même le robots.txt de google ne met pas d'espace:
http://www.google.fr/robots.txt
de même après pour voir un espace après certaines lignes
je croiait que cela était déconseillé
donc je voudrai juste savoir s'il s'agit d'une erreur ou si cela n'a vraiment aucune importance
merci à vous car je patoge un peu là
http://www.webrankinfo.com/robots.txt
- Code: Tout sélectionner
User-agent: *
Disallow: /forums/login.php
Disallow: /forums/modcp.php
Disallow: /forums/posting.php
Disallow: /forums/printview.php
Disallow: /forums/privmsg.php
Disallow: /forums/search.php
Disallow: /forums/viewonline.php
User-agent: TurnitinBot
Disallow: /
User-agent: QuepasaCreep
Disallow: /
et je reste étonné sur le fait qu'il y ait 2 espaces qui séparent "User-agent:" et "*"
même le robots.txt de google ne met pas d'espace:
http://www.google.fr/robots.txt
de même après pour voir un espace après certaines lignes
je croiait que cela était déconseillé
donc je voudrai juste savoir s'il s'agit d'une erreur ou si cela n'a vraiment aucune importance
merci à vous car je patoge un peu là
-

WebRankInfo - Administrateur du site

- Messages: 15919
- Inscription: Ven Avr 19, 2002 19:51
je l'ai vérifié ici par exemple et il ne trouve pas d'erreur : http://www.searchengineworld.com/cgi-bin/robotcheck.cgi
-

achtungbaby - WRInaute accro

- Messages: 4057
- Inscription: Lun Juin 14, 2004 12:37
Il sert à quoi le fichier robot.txt ?
-

achtungbaby - WRInaute accro

- Messages: 4057
- Inscription: Lun Juin 14, 2004 12:37
Merci, c'est la bonne réponse. 
6 messages • Page 1 sur 1
Lectures recommandées sur ce thème :
- Sortie de GoogleStats v2.01
- Les crawlers de Yahoo!
- Les robots MSNbot de Live Search
- Déclarer son fichier sitemap dans le fichier robots.txt
- Petit changement pour Slurp (le robot de Yahoo)
- Robots.txt : Yahoo supporte les options avancées
- La balise meta NOYDIR de Yahoo
- Comment gérer simplement les sitemaps de plusieurs sites au même endroit
- Alexa lance un moteur de recherche d'images
- Sortie officielle de GoogleStats v2.0 !
Consultez la description détaillée des produits ou services de Google suivants : Google Audio Ads
Qui est en ligne
Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités


le forum