Se possível usá o nginx ou lightpd, eles usam eventos no lugar de threads como o apache. Monitora com top primeiramente, depois instala um nagios, zabix ou cacti e vê o consumo de banda, processos e etc. A partir daí você vai vê se é sobrecarga ou outro tipo de problema.