A sua primeira passagem pelo SL Benfica data de 1998/99, altura em que representava os infantis, e três anos mais tarde assina pelo rival Sporting, finalizando praticamente o resto da sua formação. Reentra novamente na Luz na temporada 2006/07 e aí completa definitivamente a sua etapa formativa, fazendo o último ano enquanto júnior. As boas exibições valeram-lhe a promoção aos seniores na temporada seguinte, sagrando-se Campeão Nacional. Em 2010 foi nomeado para os Galardões Cosme Damião na categoria de «Revelação do Ano». Tendo em conta a sua formação académica e o que fez enquanto professor e formador de educação física, o Prof. Carlos Cruz (dirigente da secção) convidou-o para trabalhar nas camadas jovens do Clube, numa tentativa de transmitir os conhecimentos adquiridos aos atletas mais novos, desempenhando funções nos iniciados e depois mais tarde nos juvenis. Num dos jogos da Fase Final do Campeonato Nacional referente à época 2015/16, João Pais vestiu a pele de herói ao subir às bancadas do Pavilhão Flávio Sá Leite para recolher uma criança que se encontrava no meio da confusão e numa zona onde a polícia estava a intervir. Nessa época passou a capitanear a equipa, aquando da saída de Carlos Carneiro, mas duas épocas depois perde o estatuto para Paulo Moreno. É um dos jogadores mais experiência no plantel contando com 12 épocas consecutivas na equipa principal, estatuto ao alcance de poucos. No seu palmarés constam todos os troféus disputados em Portugal: Campeonato Nacional, Taça de Portugal, Supertaça, Taça da Liga e Taça Presidente da República.