Ang. SEO Tools - robots.txt. Hjälp med en benämning.

Permalänk
Medlem

Ang. SEO Tools - robots.txt. Hjälp med en benämning.

Jag har en liten fundering kring det här med en benämning i och med "robot.txt".

Hittade en sida där man kan få hjälp med att skapa en "robot.txt" fil.
http://www.mcanerin.com/EN/search-engine/robots-txt.asp

Men det finns en benämning på sidan som jag är lite osäker på vad den igentligen betyder.

Det är benämningen "Crawl-Delay". Och sen finns det fem olika alternativ att ta till.

Så, den här "Crawl-Delay" vad betyder det och vad gör den i sammanhanget ?

Just det, jag ber om ursäkt om jag nu ha råkat lägga tråden på fel ställe. Jag har haft lite smått beslutångest över vart jag skulle lägga den. Men,..nu blev det så det blev. Hoppas på det bästa att den hamnade på rätt ställe.

Permalänk
Hedersmedlem

*Tråd flyttad*

Den avgör hur lång tid spindeln väntar mellan requests: http://en.wikipedia.org/wiki/Robots_exclusion_standard#Crawl-...

Permalänk
Medlem
Skrivet av Palmie:

*Tråd flyttad*

Den avgör hur lång tid spindeln väntar mellan requests: http://en.wikipedia.org/wiki/Robots_exclusion_standard#Crawl-...

Ah... det ante mig.
Men tack för hjälpen.

Men det här med "Crawl-Delay", är det något, ett "måste" som man lär ha med ? Eller kan man lika gärna hoppa över det ? Tänkte om det var bra om man hade det med, eller inte. Om det har någon betydelse i det stora hela, menar jag. :/

Permalänk
Hedersmedlem
Skrivet av liv&helvete:

Ah... det ante mig.
Men tack för hjälpen.

Men det här med "Crawl-Delay", är det något, ett "måste" som man lär ha med ? Eller kan man lika gärna hoppa över det ? Tänkte om det var bra om man hade det med, eller inte. Om det har någon betydelse i det stora hela, menar jag. :/

Om du inte har behov av att begränsa trafiken (som de snälla) spindlarna använder, troligen inte.

Permalänk
Medlem
Skrivet av Palmie:

Om du inte har behov av att begränsa trafiken (som de snälla) spindlarna använder, troligen inte.

Hmm..ja, det är ju kanske något att fundera på.