Habitada inicialmente pelos índios gaviões, a área originária do município de Jacundá teve entre os seus primeiros ocupantes brancos o Coronel Francisco Acácio de Figueiredo, integrante da comitiva do Deputado e Coronel Carlos Gomes Leitão, que chegou ao local em 1892. O pequeno povoado ribeirinho servia de parada para quem navegava pelo Rio Tocantins e sediou a segunda circunscrição judiciária do município de Baião, ao qual pertencia.
Em 1915 cem moradores fizeram um abaixo-assinado e conseguiram afixar o povoado ao território de Marabá. Na época a principal atividade econômica era o extrativismo da borracha, do caucho, da castanha-do-pará e o diamante. Já no final dos anos 30, a exploração de diamantes às margens do Tocantins, na localidade de Foz do Riacho era a principal fonte da economia local. Por Jacundá passava um trecho da estrada de ferro Tocantins.
Na segunda metade dos anos 70, com a abertura da Rodovia PA-150, a região recebeu um grande número de posseiros. O confronto entre invasores e grileiros foi inevitável. A interferência do extinto GETAT (Grupo Executivo de Terras do Araguaia e Tocantins), a partir de 1980 ajudou a serenar os ânimos. O órgão titulou e demarcou inúmeros lotes de terra, mas os novos proprietários rurais continuaram sem infra-estrutura, como escolas, estradas etc.
Durante esse período instalaram-se na Vila Arraias várias madeireiras, que deram um novo impulso à economia local. Com a construção da barragem de Tucuruí, foram inundados 900 km² do território de Jacundá, deixando submersas cachoeiras, canais, garimpos de diamantes, além da antiga sede do município e de alguns vilarejos. A sede municipal foi transferida das margens do Rio Tocantins para a Vila Arraias, no km 88 da Rodovia PA-150, com o remanejamento das famílias que moravam na área que foi inundada pelo lago da hidroelétrica.
Hoje os índios gaviões vivem numa área destinada, no km 15 da PA-70. Os demais habitantes estão espalhados pela cidade e vilarejos do município, que ganhou autonomia política em 1961.
A palavra Jacundá é o nome genérico de vários peixes da família dos ciclídios, que medem até 26 cm de comprimento e se alimentam de insetos como o jacundá-coroa e o jacundá-pinima. Esta palavra designa, ainda, uma dança indígena, que imita a pesca do jacundá. Nela, homens e mulheres formam um círculo de mãos dadas, alternadamente. Para o centro da roda vai um casal de cada vez, em torno do qual o círculo gira ao som de uma música. Na região onde fica o município há grande quantidade desse peixe, daí a origem do nome. Jacundá também é uma planta da família das miriáceas.

Em divisões territoriais datadas de 31-XII-1936 e 31-XII-1937, figura no município de Marabá o distrito de Jacundá.
Pelo Decreto-lei Estadual n.º 2.972, de 31-10-1938, é extinto o distrito de Jacundá, sendo seu território anexado ao distrito de Marabá.
Pelo Decreto-lei Estadual n.º 3.131, de 31-10-1938, é recriado o distrito de Jacundá e anexado ao município de Marabá.
No quadro fixado para vigorar no período de 1939 a 1943, o distrito figura no município de Marabá.
A Lei Estadual n.º 62, de 31-12-1947, desmembra do município de Marabá o distrito de Jacundá, para constituir o novo município de Itupiranga.
Em divisão territorial datada de 1-VI-1950, o distrito permanece no município de Itupiranga. Assim permanecendo em divisão territorial datada de 1-VII-1960.
Elevado à categoria de município com a denominação de Jacundá, pela Lei Estadual n.º 2.460, de 29-12-1961, sendo desmembrado de Itupiranga. Sede no antigo distrito de Jacundá. Constituído do distrito sede. Instalado em 31-03-1962.
Em divisão territorial datada de 31-XII-1963, o município é constituído distrito sede.
Assim permanecendo em divisão territorial datada de 2021.