Um sistema que uso a algum tempo é o ISPConfig (www.ispconfig.org). No site www.howtoforge.org tem vários guias para instalação de servidores web puros (LAMP).
Se quiser mais detalhes, escreva para mim que falo melhor sobre esse sistema que tenho funcionando num servidor nos EUA.
Abraço,
Vinicius
Flickr agora em português. Você clica, todo mundo vê.
http://www.flickr.com.br/