Os primeiros habitantes de Mata foram os índios das tradições Umbu, Humaitá e Tupi-Guarani, que remontam ao século XVII.
Em 1632 foi fundada a redução de São José, com a chegada dos Jesuítas Espanhóis, que em pouco tempo já abrigava 5.800 habitantes, em sua maioria índios, sendo que o fim desta redução se deu em 1640. Em 1801 este território passa para a falada América Portuguesa.
O início da colonização de terras de Mata se deu em 1836, quando chega o casal Randolpho José Pereira da Silva e Francisca Pereira da Silva, militar, português, procedente do Porto de Pernambuco (Portugal), e tinham como missão colonizar e povoar a região. Para isto, o Governo Imperial destinou, para eles, uma légua de sesmaria de campos.
Em 1885 deu-se a primeira corrente migratória alemã, que se instalou na localidade de Sertão.
Para a construção da estrada de ferro interligando Santa Maria a Jaguari, iniciada em 1912 os trabalhadores tinham que abrir 'picadas' para o leito da ferrovia e por este motivo, teve início a denominação atual, chegando muitas pessoas a afirmarem que o município de Mata é filha da ferrovia.
Em 1920 chegaram os imigrantes italianos, começando, assim, realmente, o desenvolvimento do município, integrando-se aos alemães e nativos que aqui moravam.
O primeiro proprietário legítimo da maior parte das terras que hoje compõe o município de Mata, foi o Senhor Silveira. Posteriormente doou parte ao seu genro Domingues. E finalmente venderam para Antônio Franciosi e Vitório Nochi, que começaram o loteamento e a venda das terras. Diante da necessidade de controle e a organização das novas terras, Antônio Franciosi nomeou seu sobrinho Santo Brugalli, como procurador.

Distrito criado com a denominação de Estação da Mata, pela pelo Ato Municipal n.º 8, de 01-04-1931, subordinado ao município de São Vicente.
Em divisão administrativa referente ao ano de 1933, o distrito de Estação da Mata, figura no município de São Vicente.
Assim permanecendo em divisões territoriais datadas de 31-XII-1936 e 31-XII-1937.
Pelo Decreto Estadual n.º 7.199, de 31-03-1938, o distrito de Estação da Mata tomou a denominação simplesmente de Mata.
No quadro fixado para vigorar no período de 1939-1943, o distrito de Mata (ex-Estação da Mata), figura no município de São Vicente.
Pelo Decreto-lei Estadual n.º 720, de 29-12-1944, o município de São Vicente tomou o nome de General Vargas.
Em divisão territorial datada de 1-VII-1950, o distrito de Mata, figura no município de General Vargas (ex- São Vicente).
Assim permanecendo em divisão territorial datada de 1-VII-1960.
Elevado á categoria de município com a denominação de Mata, pela Lei Estadual n.º 4.836, de 02-12-1964, desmembrado do município de General Vargas. Sede no antigo distrito de Mata. Constituído de 2 distritos: Mata e Clara, ambos desmembrado do município de General Vargas. Instalado em 13-06-1965.
Em divisão territorial datada de 31-XII-1968, o município é constituído de 2 distritos: Mata e Clara.
Assim permanecendo em divisão territorial datada de 2007.