La todopoderosa Google ha anunciado en su blog que va a volver a modificar su algoritmo para fastidiar un poco más a los SEOs y editores de blogs.

Concretamente nos va fastidiar un 1% del tráfico que a su vez se traducirá en una pérdida de un 10% o más en los ingresos en publicidad pues nos va obligar a desplazar los primeros bloques de publicidad sea adSense u otra más abajo de la cabecera, probablemente fuera de scroll.

Y esto nos lo van a pedir cuando ellos, los muy aneutrales meten sus adWords arriba pero arriba del todo, doble rasero, doble moral que nos recuerda la cada vez más insoportable dictadura a la que nos someten cada dís, ellos dictan y nosotros copiamos.

Ya no es que cada vez resulta menos rentable mantener un blog que se nutra sólo de la publicidad sino que al final sólo van a quedar los grandes medios porque una empresa monopolista parece que así lo quiera.

¿Trabajamos para ellos? Parece que sí y que cada vez más, yo por lo pronto me cago en mountain view.

http://googlewebmastercentral.blogspot.com/2012/01/page-layout-algorithm-improvement.html

Hoy os presento un caso raro y de aquellos cansinos, un cliente con un servidor web ya con añitos, corriendo Windows 2003 Server parcheado hasta la médula, un día se enlentece que da miedo, este servidor recibe ciertos bots que sniffan literalmente todo su contenido, que no es pequeño llegando a generar con ello tráficos mensuales más allá de los 20 gigas. La mitad de los cuales se lo reparten entre bots snifadores y los spiders indexadores de la red, léase GoogleBot, Yahoo Crawler, Microsoft Search y sucedáneos rusos.

Casi siempre todo funciona bien, el servidor es robusto y responde sin muchas preocupaciones pero el problema llega cuando uno de estos robots se vuelve loco. Seguramente esta locura es producida por algún cambio en alguna variable que fuerza el número de escaneados diarios que realiza el bot, de esa forma el humano “snifante” prueba con diversos valores subiendo a veces sin saberlo la cantidad de peticiones por minuto de forma exponencial, el no ve las repercusiones en el servidor de origen, probablemente se dice, que bien ahora así tengo el contenido nuevo tan pronto como se publica, si soy el primero posiciono mejor, lo voy a dejar así. Y sin saberlo está haciendo un ataque DDOS o de denegación de servicio.

En este caso concreto es tal el consumo que en hora punta de tráfico las peticiones se enletecen hasta más allá de los 3 segundos por página peticionada.

Lo primero es detectar que algo paso, esto por suerte te lo dicen los clientes del servicio web en cuestión con emails técnicos del tipo:

“La web va lenta”, “La web va como el c…”

Recibido el tercer email de este tipo y tras comprobar que no es un problema de la conexión del cliente hacia la red, que también reportan, toca averiguar que está pasando.

1. Vemos el estado de saturación de la máquina. En Windows con el Administrador de Tareas.

2. Lo primero es ver que tal estamos de RAM, que consumo tenemos.

3. Luego vemos el espacio en disco que nos queda

4. El consumo de CPU

5. Ahora vamos a ver con ese mismo administrador de tareas que “programas” son los que más consumen

Si es MYSQL y la RAM va cargada tocará ampliar RAM, al igual de que si es disco.

Si es APACHE y la CPU va saturada, pues tocará ver cuantas peticiones y de quien son recibe el servidor web.

Para conocer cuantas peticiones recibe nuestro server hay muchas cosas y programas, pero en este caso no hay ningún sistema estadístico instalado, bueno si, Google Analytics, el cual pinta y colorea los datos que da gusto, pero a nivel técnico no nos sirve pues estamos buscando excesos y errores y me da a mi que Analytics los obvia, a saber porque con la todopoderosa y sus manías, que ya me cansan.

Aunque no tengamos nada instalado en server siempre nos podemos bajar los archivos de log del Apache para analizarlos en casita, con nuestra maquinita.

Ten en cuenta que estos archivos pueden ser gigantes, depende de como esté configurado el server, los hay con rotaciones y sin, pero puedes encontrartes con archivos de 2Gb. en servidores de alto tráfico, lidia con ellos si puedes. Lo mejor es rotarlos manualmente en el momento de máximo tráfico o ataque.

Para ello, detén el servicio de Apache, renombra los access.log y error.log y vuelve a iniciarlo, dejarás a tu cliente sin servicio un minuto escaso. Aguanta un ratito con el ataque, un par de horas a lo sumo, y vuelve a hacer lo mismo, de esa forma tendrás una muestra sanguínea del ataque o del momento de saturación del server y trabajarás única y exclusivamente con esos datos, localizando más rápidamente si existen direcciones IPs que un consumo excesivo de datos.

De Windows a Ubuntu y tiro porque me toca

Una vez muevas ese log a una carpeta accesible por FTP o HTTP faltará bajártela para analizarla en tu flamante workstation Ubuntu, que mola más que un OS X… al menos más que un Snow Leopard, pues falta ver si este próximo lunes día 6 de Junio lo que nos maravilla OS X Lion de la mano de Steve Jobs, palabra de AppleFun arrepentido venido a Ubuntu.

Analizando los archivos .log de Apache

Para analizarlo en nuestro Ubuntu vamos a usar Webzilla, para instalártela:

sudo apt-get install webalizer

Luego la configuramos con un:

sudo gedit /etc/webalizer/webalizer.conf

Aquí en principio sólo falta tocar el lugar, ruta y archivo donde está el access.log

LogFile                   /var/www/logs-para-analizar/access.log
OutputDir              /var/www/webalizer
Incremental           yes

Grabamos y ejecutamos el Webalizer con un complejísimo, es broma:

sudo webalizer

Unos segunditos y tachán, apunta tu navegador a:

http://localhost/webalizer

Selecciona el mes actual, y en la siguiente pantalla la opción “Clientes” aquí verás las IPs que han visitado más la página durante el ataque o la bajada de rendimiento del server, busca las más abultadas que vamos a revisarlas.

Ahora nos faltará saber el Quién es quién de cada IP

¿Quién es quién?

Para eso podemos usar varias opciones, entre ella una via web:

http://whois.domaintools.com/67.195.112.52

Donde 67.195.112.52 es la IP sobre la que quieres conocer información y la otra es usar las herramientas de red del sistema que incorpora Ubuntu.

Con ellas puedes realizar un WHOIS, un LOOKUP , etc.

Si entras en “Explorar los puertos”, cosa que tarda un rato podrás también detectar si detrás hay un servidor web, un servidor FTP, o un emule abierto. Datos que te permitirán determinar con algo más de certeza si se trata de una empresa o un usuario.

También puedes rastrear la ruta para más o menos ver de donde es el país de origen, si este por ejemplo es de Ukrania o de la conchinchina probablemente se trate de un buscador en el que no te importe perder posicionamiento.

Cuidadín cuidadín con los GoogleBots y familia

Pues eso, asegúrate que de todas esas IPs no te apuntes ninguna que sea de un buscador conocido en el que te quieras posicionar, pues si la anotas y luego la baneamos perderás el posicionamiento en ese buscador pues tu Apache no le dejará entrar.

Ya tenemos las IPs localizadas y correctamente anotadas, ahora vamos a banearlas

Baneando IPs en Apache bajo Windows

Bueno esto a decir verdad es más o menos igual en Windows que en Linux que un radiocassette donde sea capaz de correr Apache.

Busca el fichero de configuración de Apache httpd.conf

En la sección Directory

Introduce al final, justo antes del cierre de la directiva </Directory> y una en cada línea la siguiente instrucción:

deny from TU-NO-PASAS

por ejemplo si quisiéramos banear a Yahoo, NO lo hagas!

deny from 67.195.112.52

Graba el fichero y reinicia Apache, en Windows desde “Accesorios -> Herramientas del Sistema -> Servicios -> Apache” botón de la derecha reiniciar.

Listas negras de IPs malignas

También de paso y por el mismo precio que nos ponemos a banear, una práctica aceptable sería el banear sistemáticamente aquellas IPs que se han detectado en el mundo recientemente como IPs malignas.

Yo he sacado una lista desde:

http://isc.sans.org/ipsascii.html

y desde:

http://isc.sans.org/sources.html

Baneando que es gerundio.

Cada día me gusta más esto de configurar servidores a pelo, a la brava todo, todito por línea de comando, prescindir de Plesk, cPanel, ISPconfig, Webmins y otros para lidiar con Linux en estado puro.

Tanto es así que me voy a ir dejando algunos post con las cositas que más me han costado configurar, porque la información que popula por la red a es tan maravillosa como incompleta, equívoca en muchos casos.

El servidor FTP que he tenido el placer de configurar a pelo no es otro que Proftpd y si bien lo he realizado desde un Ubuntu, cualquier distribución linux puede utilizarlo, la diferencia es mínima.

Instalarlo es la mar de sencillo a la par que barato, desde un terminal copiaypastea el siguiente palabro:

sudo apt-get install proftpd

Luego creamos una Shell falsa editando el archivo de shells con vuestro editor favorito, en mi caso nano, el Vim para los suelos, que los deja como el oro (broma, con poca gracia, todo hay que decirlo, en modo años 80)

sudo nano /etc/shells

Aquí añadimos lo siguiente al final del texto, tal cual

/bin/false

Nos aseguramos de tener creados los directorio de subida de ficheros, en nuestro caso están en: /var/www/miftp

Si tenemos que crear el directorio recuerda:

mkdir /var/www/miftp

Luego dale permisos de lectura y escritura, los famosos 777

sudo chmod 777 /var/www/miftp

Ahora vamos a tocar un poco el archivo de configuración general de ProFTPd para ello volvemos a ejecutar el editor nano:

sudo nano /etc/proftpd/proftpd.conf

En nuestro caso aquí hemos tocado bien poco, tan sólo hemos cambiado el usuario de proftpd por nobody, busca “user” que estará justo antes que “group” y allí cámbialo, para buscar en nano utiliza CTRL+W

Graba el archivo con un CTRL+O Enter y continuamos

Ahora vamos a añadir un usuario FTP en Proftpd, aquí es donde los diferentes blogs que he consultado la lían parda, te meten un comando useradd con tres parámetros básicos, nombre de usuario, clave y directorio, pues bien, la clave, la clave, la clave de las pelotas debe ir encriptada, de lo contrario todos los intentos de login contra el servidor de FTP serán del todo improductivos. Al final en un foro he visto la luz, tal es así que vamos a realizarlo nosotros en dos pasos, en dos líneas de comandos en lugar de una, la primera sin la clave y la segunda con el encriptador de claves.

useradd –d /home/ftp pepepalotes

Y ahora el encriptador que no es otro que el comando pasword de linux:

passwd pepepalotes

El sistema te pedirá la clave, la introduces tal cual y ya se guardará encriptada.

Ahora reniciamos el servicio de FTP con el siguiente comando y a conectarse!

sudo /etc/init.d/proftpd restart