Entenent Robots.txt
El fitxer robots.txt és un estàndard utilitzat per llocs web per comunicar-se amb rastrejadors de motors de cerca i altres robots web. Indica als bots quines parts del teu lloc poden i no poden accedir.
Què és robots.txt?
Robots.txt és un fitxer de text pla situat a l'arrel del teu lloc web (p. ex., exemple.com/robots.txt) que segueix el Protocol d'Exclusió de Robots. Conté regles que indiquen als rastrejadors quines URLs poden accedir al teu lloc.
Com utilitzar aquesta eina
Enganxa el teu contingut robots.txt a l'àrea de text (o obtén-lo d'un domini), introdueix una ruta URL que vols provar, selecciona un user-agent i fes clic a 'Prova URL'. L'eina et dirà instantàniament si la ruta està permesa o bloquejada.
Per què provar el teu Robots.txt?
- Prevenir bloquejar accidentalment pàgines importants dels motors de cerca
- Assegurar que pàgines privades o d'administració estiguin correctament ocultes dels rastrejadors
- Depurar problemes de rastreig abans que afectin les teves classificacions de cerca
- Validar canvis abans de desplegar a producció
Privadesa Garantida
Aquesta eina funciona completament al teu navegador. El contingut del teu robots.txt i les URLs de prova mai són enviades a cap servidor. Perfecte per provar regles que contenen rutes sensibles.