Em redes de até cerca de 30 máquinas normalmente eu calculo uns 50 a 100 MB por micro. Em redes maiores este cálculo pode ser menor, porque um cache muito grande costuma dar alguns problemas. O máximo que costumo usar é 4 GB.
É bom também ajustar os parâmetros de uso da RAM pelo Squid, porque as configurações padrão são bem modestas.