le bot me fait planter mon forum...

[Mitirapa]

et oui, voilà j'avais fait un url rewriting...
et donc les robots (une 50taines d'ip 216.239.46.* en meme temps) regardent toutes les pages...
mais il y a tellement de requetes au meme moment que ca me fait des erreurs dans le forum...
je vais donc etre obligé s'il ne s'arrete pas demain de restreindre certains accés... dommage quand meme, j'avais pas prévu ca.

[Jocelyn]

La réponse de Google est ici :
http://www.google.com/webmasters/3.html#B9

Jocelyn

[Mitirapa]

ha je ne savais pas qu'on pouvait leur faire des demandes de ce type..
mais si je leur dit, ils vont choper que j'ai fait un url-rewriting sur le forum et vu que google n'aime pas trop les forums... je prefere ne rien dire...

[WebRankInfo]

Vu que l'objectif de l'URL rewriting est que les robots indexent les pages, ce serait bête de lui demander explicitement de ne pas les indexer !!!

[Jocelyn]

La question dans la FAQ de Google est comme suit :

Googlebot is crawling my site too fast.
Please send an email to googlebot@google.com with the name of your site and a detailed description of the problem. Please also include a portion of the weblog that shows Google accesses, so we can track down the problem more quickly on our end.

Google répond en disant qu'ils chercheront de leur côté où est le problème. Ca ne veut pas dire que dans tous les cas ils vont supprimer les pages de leur index. il y a déjà les balises META pour ça. Je vois plus ça comme un moyen de les aider à améliorer leur crawler.

Enfin, je n'ai jamais eu ce problème, donc ce ne sont que des suppositions.

Jocelyn