robots.txt-bouwer en -tester

Beoordeelt regels per crawler en pad en maakt een leesbaar bestand met waarschuwingen.

robots.txt-inhoud, crawler en URL
robots.txt

robots.txt ≤ 500 KiB · Allow / Disallow ≤ 10,000

Gegevens worden alleen tijdelijk verwerkt om het resultaat te maken. CSV-bestanden worden uitsluitend in deze browser geanalyseerd en niet geüpload of opgeslagen.

robots.txt stuurt conforme crawling maar verwijdert bekende URL’s niet zelfstandig uit de index.

Methode

Beoordeelt regels per crawler en pad en maakt een leesbaar bestand met waarschuwingen.

Privacy

Gegevens worden alleen tijdelijk verwerkt om het resultaat te maken. CSV-bestanden worden uitsluitend in deze browser geanalyseerd en niet geüpload of opgeslagen.

Beperkingen

robots.txt stuurt conforme crawling maar verwijdert bekende URL’s niet zelfstandig uit de index.

Primaire bronnen