As primeiras notícias acerca da região datam do início do século XVIII e deve sua origem a penetração de bandeirantes à procura do ouro das Minas Gerais. Sapucaí Mirim, como as demais cidades da região, tem como desbravador o bandeirante Gaspar Vaz da Cunha, 'O Oyaguara'. Os seus fundadores partiram do município paulista de Taubaté, precisamente em 1853, tão logo aqui chegado localizaram-se no local denominado 'Guarda Velha'. Como o local confinava com o município mineiro de Camanducaia (então denominado Jaguari), existiam no referido local muitos posseiros vindos desses municípios confinantes, e não tardou que se originassem disputas entre os possantes de Camanducaia e os desbravadores paulistas, questões essas certamente motivadas pelas divisas de terrenos aposseados.
Antes da vinda dos exploradores paulistas, o local era habitado por tribos indígenas, Não se pode precisar qual a tribo a que pertenciam, mas supõe-se, segundo diversos estudiosos do assunto locais, que seja uma tribo dos coianazes, que habitava as beiras da serra da Mantiqueira, linha divisória entre Minas e São Paulo nesta região.
No começo do século XIX, as terras férteis e o ótimo clima atraíam os colonos, que se dedicavam à lavoura e pecuária. Além disto, o rio Sapucaí Mirim, onde a pesca era farta e variada, fez com que ali se originasse os primeiros núcleos de população, dando origem ao povoado que logo se denominou 'Sant’Ana do Paraíso', tendo como padroeira a Nossa Senhora Sant'Ana. Dada a crescente povoação, vários outros residentes, fizeram a doação do patrimônio para formação do arraial, mandando edificar uma matriz em honra à padroeira Sant'Ana e ao rio Sapucaí-Mirim, em cujo vale está localizada a atual cidade.

Distrito criado com a denominação de Santana do Sapucaí Mirim, pela Lei Provincial n.º 2.385, de 13-10-1877, e Lei Estadual n.º 2, de 14-09-1891, subordinado ao município de São José do Paraíso
Em divisão administrativa referente ao ano de 1911, o distrito de Santana do Sapucaí Mirim figura no município de São José do Paraíso.
Pela Lei Estadual n.º 621, de 15-11-1914, o município de São José de Paraíso passou a denominar-se Paraisópolis.
Nos quadros de apuração do Recenseamento Geral de 1-IX-1920, o distrito de Santana do Sapucaí Mirim figura no município de Paraisópolis.
Pela Lei Estadual n.º 843, de 07-09-1923, o distrito de Santana do Sapucaí Mirim tomou a denominação de Sapucaí-Mirim.
Em divisão administrativa referente ano de 1933, o distrito Sapucaí-Mirim (ex-Santana do Sapucaí Mirim) figura no município de Paraisópolis.
Assim permanecendo em divisão territorial datada de 31-XII-1936.
Elevado à categoria de município com a denominação de Sapucaí-Mirim, pela Lei n.º 15, de 17-12-1937, desmembrado de Paraisópolis. Sede no distrito de Sapucaí Mirim. Constituído do distrito sede.
Em divisão territorial datada de 1-VII-1960, o município é constituído do distrito.
Assim permanecendo em divisão territorial datada de 2017.