Buenos días,
El rastreo del bot de trendiction me está dando bastante problemas porque está haciendo que sobrepase los recursos disponibles del uso de la CPU. En robots.txt puse User-agent: trendictionbotCrawl-delay: 10, pero no hace ni caso a esta regla, porque entra a la web cada 4 segundos. Y si esa regla la pongo así, me sale que tengo un error en robots.txt:
User-agent: trendictionbot
Crawl-delay: 10
Así que, por favor, qué podría hacer para solucionar esto. Porque entiendo que si lo bloqueo, me podría perjudicar en la visibilidad de la web.
Un saludo.
Contenido solo visible a usuarios registrados
Hola Ma Angeles,
Prueba aumenta el delay a 20 y revisa como va todo, por ejemplo
User-agent: trendictionbot
Crawl-delay: 20
Ten en cuenta que la otra alternativa que indica trendition es desactivar este acceda a tu sitio web con → Contenido solo visible a usuarios registrados
User-Agent: trendictionbot
Disallow: /
Sin embargo, solo tú decides que rastrea tu sitio web, ten cuenta que trendition básicamente lo que hace es recopilar información de un sitio web para monitorear el contenido en línea y proporcionar tendencias, ya sea de redes sociales, blogs, foros...etc. Aun cuando puede darte un poco de más visibilidad, este seguirá consumiendo recursos de tu servidor y cuenta de hosting.
Un Saludo
Gracias Karen por tu respuesta, me ha sido de gran ayuda.
Un saludo.
Hola Ma Angeles,
Gracias a ti, es un placer para nosotros siempre poder ayudarte.
Coméntanos si con esto podemos dar el tema como solucionado.
Un Saludo 😊