João Pinheiro, o que anteriormente chamou-se Santana dos Alegres, foi fundada antes de 1818 e pertenceu ao bispado de Pernambuco.
Conta-se que a origem do nome Alegre é devido a um boi curreleiro muito bravio e de nome Alegre, que existia nas adjacências do local e que frequentemente, ao anoitecer, ia para o arraial, ali permanecendo até altas horas da madrugada, sempre a mugir.
Os habitantes, que para ali foram atraídos em virtude das pastagens luxuriantes e lavras de diamante, eram constituídos de pequenos fazendeiros e garimpeiros. A atividade econômica do município evoluiu com a pecuária e a lavoura, porém, até 1902, o garimpo fora muito bem explorado às margens do rio Santo Antônio, e no leito de outros.
Mais tarde, todavia, o garimpo foi diminuindo, a ponto de o arraial ficar despovoado.
Seus principais fundadores foram: a família Azevedo, Manoel Gonçalves dos Santos, Pedro José da Silveira e João Crisóstomo de Campos Valadares.
O atual topônimo, João Pinheiro, adotado em 1911, é uma homenagem ao ex-Presidente do Estado, João Pinheiro da Silva.

Distrito criado com denominação de Santana dos Alegres, pela Lei Provincial n.º 1.993, de 13-11-1873, subordinado ao município de Paracatu.
Elevado à categoria de vila com a denominação de João Pinheiro, pela Lei Estadual n.º 556, de 30-08-1911, desmembrado de Paracatu. Sede na antiga vila de Santana dos Alegres. Constituído de 6 distritos: João Pinheiro, Água Limpa, Benfica, Canabrava, Catinga e Veredas. Os dois primeiros criados pela mesma Lei de criação do município os outros quatros desmembrados de Paracatu. Instalado em 25-09-1911.
Em divisão administrativa referente ao ano de 1911, a vila é constituída de 6 distritos: João Pinheiro, Água Limpa, Benfica, Canabrava, Catinga e Veredas.
Assim permanecendo nos quadros de apuração do Recenseamento Geral de 1-IX-1920.
Elevado à condição de cidade com a denominação de João Pinheiro, pela Lei Estadual n.º 893, de 10-09-1925.
Em divisão administrativa referente ao ano de 1933, o município é constituído de 6 distritos: João Pinheiro, Água Limpa, Benfica, Canabrava, Catinga e Veredas.
Em divisões territoriais datadas de 31-XII-1936 e 31-XII-1937, o município é constituído de 4 distritos: João Pinheiro, Canabrava, Catinga e Veredas. Não figurando os distritos de Água Limpa e Benfica.
Pelo Decreto lei Estadual n.º 1.058, 31-12-1943, o distrito de Catinga passou ser grafado Caatinga.
Em divisão territorial datada de 1-VII-1950, o município é constituído de 4 distritos: João Pinheiro, Caatinga (ex-Catinga), Canabrava e Veredas.
Assim permanecendo em divisão territorial datada de 1-VII-1960.
Pela Lei Estadual n.º 2.764, de 30-12-1962, é criado o distrito de Olhos d`Água do Oeste e anexado ao município de João Pinheiro.
Em divisão territorial datada de 31-XII-1963, o município é constituído de 5 distritos: João Pinheiro, Caatinga, Canabrava, Olhos d’Água do Oeste e Veredas.
Assim permanecendo em divisão territorial datada de 1-I-1979.
Pela Lei Estadual n.º 8.285, de 08-10-1982, foram criados os distritos de Luizlândia do Oeste e Santa Luzia da Serra (ex-povoados) e anexados ao município de João Pinheiro.
Em divisão territorial datada de 1-VII-1983, o município é constituído de 7 distritos: João Pinheiro, Caatinga, Canabrava, Luizlândia do Oeste, Olhos d`Água do Oeste, Santa Luzia da Serra e Veredas.
Assim permanecendo em divisão territorial datada de 2022.