Hola buenos dias.
Hemos detectado que Googlebot realiza muchos rastreos a un formato de sitemap de productos que no reconocemos y que da error 404;
/wine/productoA/sitemap.xml
Hemos añadido en el robot.txt la siguiente linea
User-agent: *
Disallow: /sitemap.xml
Pero sigue realizando los mismos rastreos!!!!
Tambien realiza el mismo tipo de rastreo pero para;
/vino/productoA/sitemap.xml que da error 301
Como podemos prohibir el rastreo de cualquier prefijo /vino/
Por ultimo nos gustaria tener un control del Crawl-delay para WPRocket/Preload es posible realizarlo o controlarlo de alguna forma a traves del robots.txt?
Muchas gracias
Saludos
Jose Carlos
Contenido solo visible a usuarios registrados
Hola Jose Carlos.
Donde lo viste ? Puedes adjuntar una captura ?
Alguna vez tuviste una instalación en una carpeta independiente con el nombre Wine o vino ?
El Sitemap lo generan automáticamente los plugins de SEO como puede ser Yoast o Rank Math pero no veo que tengas ningún plugin de SEO instalado
Un saludo
Hola Pepe buenas tardes.
Lo vemos en Estadisticas - Logs de Acceso
Tuvimos un cambio hace tiempo de enlaces permanentes que no entendimos de vino a wine.
Tenemos instalado Yoast SEO.
Deberia borrar a traves de Google Search Console estos sitemaps /wine/productoA/sitemap.xml
Gracias
Saludos
Jose Carlos
Hola Jose Carlos,
Si el sitemap no corresponde a tu sitio sino a algo que en algún momento estaba y ya no puedes eliminarlo, ten en cuenta siempre trabajar tu sitio con tu único archivo robots:
dominio.com/robots.txt
Con respecto a lo que comentas de WP Rocket, este es un plugin de pago y no figura esta función que buscas en su documentación, ya tendrías que consultarlo con ellos.
Un saludo 🖐️
Hola Jose Carlos,
Con gusto, esperamos que el resto del tema haya quedado claro, nos comentas para poder cerrarlo.
Un saludo 🖐️