sitemap, robots.txt et url rewriting

Règles du forum
Attention ce forum est destiné avant tout à ceux qui découvrent le référencement. Les membres qui auront l'amabilité de répondre à leurs questions sont priés de rester courtois, polis, indulgents, patients et pédagogues... Merci d'avance !

Par ailleurs, inutile d'utiliser ce forum uniquement pour obtenir des liens vers vos sites, les liens sont désactivés pour le référencement (nofollow).

Consultez la formation au REFERENCEMENT naturel Google de WebRankInfo / Ranking Metrics

alexdezark
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 44
Inscription: 21 Fév 2009

sitemap, robots.txt et url rewriting

Message le Lun Nov 02, 2009 14:55

Bonjour à tous,

J'utilise une redirection dans un htaccess pour masquer à l'utilisateur un nom de répertoire dans la barre d'adresse du navigateur.

Au lieu d'afficher : http://www.monsite.com/site/genre1/page.php
j'affiche : http://www.monsite.com/genre1/page.php

Dans mon htaccess j'ai :

Code: Tout sélectionner
RewriteEngine On
RewriteCond %{REQUEST_URI} !^/(site|js|medias|css|images)/
RewriteRule ^(.*)$ /site/$1 [L]


Je voudrais savoir comment doit être rédigé mon sitemap pour que les moteurs de recherche trouvent les pages indiquées.

Les moteurs de recherche appliquent-ils les règles énoncées dans le htaccess ?

Et dans mon fichier robots.txt si je veux empêcher l'exploration du repertoire '/js', est-ce que la ligne
Code: Tout sélectionner
Disallow: /js/

sera bien la ligne à écrire ?

Merci d'avance pour vos réponses.


forty
WRInaute passionné
WRInaute passionné
 
Messages: 1701
Inscription: 30 Oct 2008

Re: sitemap, robots.txt et url rewriting

Message le Lun Nov 02, 2009 15:48

"Disallow: /js/" ne sert que pour les robots qui lisent le fichier robots.txt : c'est pas valable pour les utilisateurs ou les aspirateurs, spammeurs, ...

sinon les règles htaccess s'appliquent à tous (sauf condition particulière).

Pour éviter de voir le contenu d'un répertoire, tu peux utiliser l'une des méthodes suivante :
- mettre un fichier index.php vide dans le répertoire (ou avec seulement une redirection vers la racine)
- utiliser la directive apache dans le htaccess :
Code: Tout sélectionner
Options -Indexes

alexdezark
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 44
Inscription: 21 Fév 2009

Re: sitemap, robots.txt et url rewriting

Message le Lun Nov 02, 2009 16:08

Bonjour Forty,

Merci de ta réponse.

Je crois savoir que Options -Indexes empêche de lister le contenu de tous les répertoires, est-ce cela ?

Donc si je met ça dans mon htaccess à la racine du site cela va-t-il aussi empêcher les moteurs de recherche de référencer le contenu de mon répertoire '/site' qui est celui que je veux que les moteurs explorent ?

faut-il placer cette ligne dans un htaccess dans chaque répertoire dont on veut interdire l'exploration ?

Je ne comprend pas bien non plus pourquoi le fait de placer un index.php vide dans un répertoire va empêcher son exploration ?

Merci d'avance pour ces éclaircissements


forty
WRInaute passionné
WRInaute passionné
 
Messages: 1701
Inscription: 30 Oct 2008

Re: sitemap, robots.txt et url rewriting

Message le Lun Nov 02, 2009 17:12

Options -Indexes permet d'empêcher de voir le contenu d'un répertoire quand il n'y a pas de fichier index (évite d'afficher la liste des fichiers du répertoire). Ca n'empêche pas d'accéder directement à l'un des fichiers du répertoire.

Si l'option Indexes n'est pas supprimée, apache affiche le contenu du fichier index.php ou index.html s'il existe. C'est donc une bonne solution pour contrôler l'affichage que tu va avoir en appelant -http://www.tonsite/js/

Sinon si tu veux empêcher de voir le contenu des fichiers .js : c'est quasiment impossible s'ils sont utilisés sur ton site.


Si vous avez aimé cette discussion, partagez-la sur vos réseaux sociaux préférés :

Formation recommandée sur ce thème :

Formation REFERENCEMENT naturel Google : apprenez une méthode efficace pour optimiser à fond le référencement naturel dans Google de façon durable... Formation animée par Olivier Duffez et Fabien Facériès, experts en référencement naturel.

Tous les détails sur le site Ranking Metrics : programme, prix, dates et lieux, inscription en ligne.

Lectures recommandées sur ce thème :



Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 1 invité