Aqui vai uma apostila muito interessante sobre o gerência de memória em Java. Ela explica sobre a distribução da memória (Arquitetura da JVM), sobre os algorítimos de coleta de lixo, algumas dicas e boas práticas. Uma boa leitura para quem se interessar no "baixo nível" do Java. Link da apostila
Gerencia de Memória Java