Nos amis les bots

Consultez la formation au REFERENCEMENT naturel Google de WebRankInfo / Ranking Metrics


kuvett
WRInaute discret
WRInaute discret
 
Messages: 118
Inscription: 17 Sep 2004

Nos amis les bots

Message le Jeu Oct 07, 2004 16:54

J'utilise Webalizer pour mes stats (de série en mutualisé chez Amen), et je peine un peu pour identifier les différents noms d'hôtes des bots qui viennent me faire un petit coucou.

- Comment les identifier ? (bots GG, Yahoo, Voila, AOL...)
- Pourquoi vois je quelquefois des adresses IP se connecter, d'autres fois des trucs du type abordeaus-chateaumescouilles-"IP"-proxad.blabla ?
- C'est qui ce lui la : ng1.exabot.com ?


e-kiwi
Modérateur
Modérateur
 
Messages: 15618
Inscription: 23 Déc 2003

Message le Jeu Oct 07, 2004 16:55

t as installé robotstats ? :-)


TOMHTML
WRInaute accro
WRInaute accro
 
Messages: 3250
Inscription: 25 Aoû 2004

Message le Jeu Oct 07, 2004 17:30

Y a-t'il un substitut à Robotstats ?
Parce que ça fonctionne avec php, et tous les sites ne sont pas en php...


kuvett
WRInaute discret
WRInaute discret
 
Messages: 118
Inscription: 17 Sep 2004

Message le Jeu Oct 07, 2004 18:22

e-kiwi a écrit:t as installé robotstats ? :-)

'ffectiv'ment, ca serait le plus simple. et pour cette question ?
Pourquoi vois je quelquefois des adresses IP se connecter, d'autres fois des trucs du type abordeaus-chateaumescouilles-"IP"-proxad.blabla ?

qqun a une reponse ?


kuvett
WRInaute discret
WRInaute discret
 
Messages: 118
Inscription: 17 Sep 2004

Message le Jeu Oct 07, 2004 18:33

mmmh, ya un marqueur, dans robotstats. Pas envie de me taper toute mes pages, je fais ca sur des sites pro.

ya rien de basé sur les fichiers log ? par rapport aux stats, je compte rapatrier mes logs une fois par semaine, et analyser en offline via AWStats. Ya pas un outil qui me ferait la meme chose sur les fichiers log ? moins complet, vu que RS "trace" les robots, mais au moins leurs noms et meur frequence de visite. apres, les pages visitees, sur les logs, je sais pas si c'est possible.


tom_pascal
WRInaute occasionnel
WRInaute occasionnel
 
Messages: 291
Inscription: 17 Nov 2003

Message le Jeu Oct 07, 2004 19:52

J'ai bien une réponse courte à te proposer qui fonctionne bien, mais je ne sais pas si elle va te satisfaire :

grep, sed, wc ?

et éventuellement cygwin si t'es pas sur un vrai système d'exploitation ;)


kuvett
WRInaute discret
WRInaute discret
 
Messages: 118
Inscription: 17 Sep 2004

Message le Jeu Oct 07, 2004 20:07

tom_pascal a écrit:J'ai bien une réponse courte à te proposer qui fonctionne bien, mais je ne sais pas si elle va te satisfaire :

grep, sed, wc ?

et éventuellement cygwin si t'es pas sur un vrai système d'exploitation ;)

Un décodeur, quelqu'un ? :oops:


niceunef
WRInaute passionné
WRInaute passionné
 
Messages: 1811
Inscription: 19 Jan 2004

Message le Jeu Oct 07, 2004 20:46

En gros: chercher dans le fichier log (grep, etc... sont des commandes linux de filtrage genre grep tsoin fichier.log ne te donnera que les lignes contenant tsoin).
Pour les IPs, si elles ont un nom (meme pourri quand c'est des adresses de FAI courants), elles apparaissent avec ce nom, et sinon ben juste l'adresse IP.
Pour Googlebot, il y a 2 séries d'adresses IP en 64.zzz et 66.zzz (de tete je ne sais plus, une recherche dans le forum pourrait t'en dire plus) et normalement (?) un user-agent contenant le mot Googlebot (donc un petit grep pourrait servir).
Sinon, il y a des logiciels de stats qui se basent sur l'analyse des logs.
Exabot: voir dans le forum "autres moteurs de recherche".


kuvett
WRInaute discret
WRInaute discret
 
Messages: 118
Inscription: 17 Sep 2004

Message le Ven Oct 08, 2004 1:28

niceunef a écrit:En gros: chercher dans le fichier log (grep, etc... sont des commandes linux de filtrage genre grep tsoin fichier.log ne te donnera que les lignes contenant tsoin).
Pour les IPs, si elles ont un nom (meme pourri quand c'est des adresses de FAI courants), elles apparaissent avec ce nom, et sinon ben juste l'adresse IP.
Pour Googlebot, il y a 2 séries d'adresses IP en 64.zzz et 66.zzz (de tete je ne sais plus, une recherche dans le forum pourrait t'en dire plus) et normalement (?) un user-agent contenant le mot Googlebot (donc un petit grep pourrait servir).
Sinon, il y a des logiciels de stats qui se basent sur l'analyse des logs.
Exabot: voir dans le forum "autres moteurs de recherche".

Ouf ! Merci ! :lol:


Si vous avez aimé cette discussion, partagez-la sur vos réseaux sociaux préférés :

Formation recommandée sur ce thème :

Formation REFERENCEMENT naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.

Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.

Lectures recommandées sur ce thème :



Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités