Pag-unawa sa Robots.txt
Ang robots.txt file ay isang pamantayan na ginagamit ng mga website upang makipag-ugnayan sa mga crawler ng search engine at iba pang mga web robot. Sinabi nito sa mga bot kung aling mga bahagi ng iyong site ang maaari at hindi maaaring ma-access.
Ano ang robots.txt?
Ang Robots.txt ay isang plain text file na inilalagay sa ugat ng iyong website (hal. example.com/robots.txt) na sumusunod sa Robots Exclusion Protocol. Naglalaman ito ng mga alituntunin na nagsasabi sa mga crawler kung aling mga URL ang maaari nilang ma-access sa iyong site.
Paano Gamitin ang Tool na Ito
I-paste ang iyong nilalaman ng robots.txt sa text area (o kunin ito mula sa isang domain), ipasok ang isang landas ng URL na nais mong subukan, pumili ng user-agent, at i-click ang 'Subukan ang URL'. Agad na sasabihin sa iyo ng tool kung ang landas ay pinapayagan o naharang.
Bakit Subukan ang Iyong Robots.txt?
- Pigilan ang aksidenteng paghaharang ng mahahalagang pahina mula sa mga search engine
- Tiyakin na ang mga pribado o admin na pahina ay maayos na nakatago mula sa mga crawler
- I-debug ang mga isyu sa crawling bago ito makaapekto sa iyong mga ranggo sa search
- I-validate ang mga pagbabago bago ilabas sa produksyon
Garantisadong Privacy
Ang tool na ito ay ganap na tumatakbo sa iyong browser. Ang iyong nilalaman ng robots.txt at mga test URL ay hindi kailanman ipinapadala sa anumang server. Perpekto para sa pagsubok ng mga alituntunin na naglalaman ng mga sensitibong landas.