Consta que, na margem do rio que corta a região, habitava uma tribo de índios chamados Tocantins. E a história de tocantins relaciona-se com a de São Manoel do Pomba atual Rio Pomba, a que pertenceu em tempos idos. O primeiro núcleo originou-se mais ou menos em 1812, quando da doação do patrimônio da cidade, feita pelo capitão José Antônio Machado e pelo alferes Manoel Joaquim da Rocha e suas esposas, resultado de um acordo entre os dois proprietários que assim encontraram a melhor solução para a disputa que mantinham sobre a referida faixa de terra. O local era chamado São José da Prateleira, nome este dado pelos tropeiros, em vista de existir na beira da estrada uma pequena choupana com a imagem de São José, colocada numa tosca prateleira. As terras doadas motivaram a criação da irmandade de São José do Paraopeba. Com a edificação de uma capela em honra ao santo e servindo de marco inicial para a futura sociedade.. A origem do topônimo deve-se a presença dos índios chamados ?Tocantins?, primitivos habitantes da região. O gentílico é ?Tocantinense?.
O distrito foi criado com a denominação de São José do Paraopeba, por Lei Provincial nº 1.492, em 13 de julho de 1868. O topônimo foi alterado para São José do Tocantins, por Lei Provincial nº 2.500, de 12 novembro de 1878, sendo que em 1923, pela Lei nº 843, o distrito passou a chamar-se simplesmente Tocantins. A sua elevação a município verificou-se em 27 de dezembro de 1948, pelo Decreto nº 336, e a instalação em 1º de Janeiro de 1949.
Tocantins pertence a comarca de Ubá.
Situado na Microrregião de Ubá, na Mesorregião da Zona da Mata, com área de 174,0 km2, limita-se com os municípios de Dores do Turvo, Piraúba, Rio Pomba e Ubá.