Buenos días,
Venimos observando que tenemos muchas visitas de los siguientes robots rastreadores: http://www.opensiteexplorer.org/dotbot
http://ahrefs.com/robot
Creemos que no es interesante que rastreen nuestra web por lo que nos gustaría saber como impedir que entren. Suponemos que a través del archivo robots pero queríamos hacerlo correctamente.
Gracias!
URL del sitio: Contenido solo visible a usuarios registrados
Hola Maria dolores.
Los puedes bloquear desde el archivo robot.txtx.
.- Edita el archivo robot.txt y añade lo siguiente:
User-agent: dotbot
Disallow: /User-agent: AhrefsBot
Disallow: /
Un saludo