Robots.txt ஐ புரிந்து கொள்ளுதல்
robots.txt கோப்பு என்பது தேடல் இயந்திர குரூலர்களுக்கும் பிற வலை ரோபோக்களுக்கு தொடர்பு கொள்ள வலைத்தளங்கள் பயன்படுத்தும் ஒரு தரநிலையாகும். இது உங்கள் தளத்தின் எந்த பகுதிகளை அவர்கள் அணுகலாம் மற்றும் அணுக முடியாது என்பதைக் கூறுகிறது.
robots.txt என்றால் என்ன?
Robots.txt என்பது உங்கள் வலைத்தளத்தின் அடித்தளத்தில் (எ.கா., example.com/robots.txt) வைக்கப்பட்ட ஒரு சாதாரண உரை கோப்பு ஆகும், இது Robots Exclusion Protocol ஐ பின்பற்றுகிறது. இது குரூலர்களுக்கு உங்கள் தளத்தில் எந்த URL களை அணுகலாம் என்பதைக் கூறும் விதிகளை கொண்டுள்ளது.
இந்த கருவியை எப்படி பயன்படுத்துவது
உங்கள் robots.txt உள்ளடக்கத்தை உரை பகுதியில் ஒட்டவும் (அல்லது ஒரு டொமைனில் இருந்து அதை ஏற்றவும்), நீங்கள் சோதிக்க விரும்பும் URL பாதையை உள்ளிடவும், ஒரு பயனர்-ஏஜெண்ட் தேர்ந்தெடுக்கவும், 'URL ஐ சோதிக்கவும்' என்பதைக் கிளிக் செய்யவும். இந்த கருவி உடனடியாக அந்த பாதை அனுமதிக்கப்பட்டது அல்லது தடைக்கப்பட்டதா என்பதை உங்களுக்கு தெரிவிக்கும்.
ஏன் உங்கள் Robots.txt ஐ சோதிக்க வேண்டும்?
- தேடல் இயந்திரங்களில் முக்கியமான பக்கங்களை தவறுதலாக தடுப்பதைத் தடுக்கும்
- தனியார் அல்லது நிர்வாக பக்கங்கள் குரூலர்களிடமிருந்து சரியாக மறைக்கப்படுவதை உறுதி செய்யவும்
- உங்கள் தேடல் தரங்களை பாதிக்கும்முன் குரூல் சிக்கல்களை சரிசெய்யவும்
- தொகுப்புக்கு முன்பு மாற்றங்களை சரிபார்க்கவும்
தனியுரிமை உறுதி செய்யப்பட்டது
இந்த கருவி முழுமையாக உங்கள் உலாவியில் இயங்குகிறது. உங்கள் robots.txt உள்ளடக்கம் மற்றும் சோதனை URL கள் எந்த சர்வருக்கும் அனுப்பப்படுவதில்லை. உணர்ச்சிமிக்க பாதைகளை உள்ளடக்கிய விதிகளை சோதிக்க சிறந்தது.