Era filho do Dr. João Luís Alves e de Antonina Barbosa Alves e neto de Luís Antônio Barbosa, ministro da Justiça do Império. Aos 11 anos veio para o Rio, onde completou os estudos preparatórios. Em 1885, matriculou-se na Faculdade de Direito de São Paulo, se bacharelando em 1889, seis dias antes da proclamação da República. Regressando a Minas, Cesário Alvim, presidente de Minas Gerais, nomeou-o promotor público e curador de órfãos da comarca de Rio Verde (1890-91). A seguir foi juiz municipal e de órfãos de Campanha e de Alfenas, professor de legislação e terras no curso de agrimensura em Campanha (1893-94) e professor catedrático da Faculdade de Direito de Belo Horizonte. De 1893 a 1898, dedicou-se com brilhantismo à advocacia no sul de Minas. No biênio de 1898 a 1900 foi prefeito de Campanha com brilhante gestão. Em 1899 foi eleito deputado estadual e, em abril de 1903, deputado federal. Na Câmara foi eleito membro da Comissão da Constituição e Justiça, tendo ocasião de elaborar pareceres de grande repercussão. Bateu-se pela reforma aduaneira, sendo um dos líderes do protecionismo brasileiro.
Em 1908 foi eleito senador pelo Espírito Santo. Fez parte da comissão encarregada de dar parecer sobre o projeto do Código Civil, na qual ficou mais uma vez comprovada a sua alta capacidade jurídica. A essa fase pertencem os seus melhores discursos. Quando Rui Barbosa desenvolvia a memorável campanha civilista e, depois, o movimento de oposição ao governo daquele marechal, o senador pelo Espírito Santo não temeu enfrentá-lo, travando discussões e debates que ficaram registradas nos anais do Senado. Foi valiosa a sua colaboração de jurista na elaboração de várias leis.
Em 1918, Artur Bernardes, eleito presidente de Minas Gerais, nomeou João Luís Alves secretário das Finanças. Assumindo Artur Bernardes a presidência da República, depois de uma violenta campanha política, João Luís Alves foi chamado para a pasta da Justiça e Negócios Interiores. Nesse alto posto, elaborou a reforma judiciária do Distrito Federal, com um novo Código de Processo Civil e Comercial, e a reforma do Departamento Nacional de Saúde Pública e do Ensino.
Em dezembro de 1924, foi nomeado ministro do Supremo Tribunal Federal, na vaga aberta com a morte do ministro Hermínio do Espírito Santo. Afastou-se dessa função devido ao seu precário estado de saúde, que o obrigou a buscar tratamento em Paris, onde veio a falecer logo em seguida.
Era membro do Instituto dos Advogados Brasileiros e do Instituto Histórico e Geográfico Brasileiro.