Constructor y probador de robots.txt

Evalúa reglas por agente y ruta, y genera un archivo legible con advertencias.

Contenido robots.txt, agente y URL
robots.txt

robots.txt ≤ 500 KiB · Allow / Disallow ≤ 10,000

Los datos se procesan de forma efímera para generar el resultado. Los archivos CSV se analizan solo en este navegador y no se cargan ni se almacenan.

robots.txt controla rastreo compatible, no elimina por sí mismo URL conocidas del índice.

Método

Evalúa reglas por agente y ruta, y genera un archivo legible con advertencias.

Privacidad

Los datos se procesan de forma efímera para generar el resultado. Los archivos CSV se analizan solo en este navegador y no se cargan ni se almacenan.

Limitaciones

robots.txt controla rastreo compatible, no elimina por sí mismo URL conocidas del índice.

Fuentes principales