A primeira exploração do território ocorreu no ano de 1633, quando padres jesuítas espanhóis procuravam tribos indígenas para catequizar. Na mesma época, mais precisamente em 1636, grupos de bandeirantes, com incentivo da Coroa Portuguesa, percorreram o território em busca de metais preciosos e indígenas. Esses indígenas eram escravizados e levados para trabalhar nas lavouras dos portugueses, que ficavam em São Paulo.
No início do século XIX, quando o Rio Grande do Sul passou a fazer parte oficialmente do Brasil, o território de Arroio do Meio era ocupado por indígenas e grupos de posseiros (escravos fugidos, descendentes de escravos, tropeiros, fugitivos do Exército e da Justiça: aqueles que não tinham terra e nem trabalho nas fazendas da região).
Em 1816, Ricardo José Villanova, que morava em Taquari, recebeu do governo português uma sesmaria, denominada fazenda São Caetano, para desenvolver a agricultura. Essa propriedade localizava-se no território do atual município de Arroio do Meio, entre a localidade de São Caetano e o arroio Forqueta, e do rio Taquari até os morros de Arroio Grande e Palmas.
Em 1844, Villanova vendeu as terras de São Caetano para outro morador de Taquari, o capitão Francisco Silvestre Ribeiro. Este, por sua vez, também recebeu do governo uma área que ia de São Caetano até o arroio Jacaré, em Encantado. Desse modo, ele possuía uma grande parte do território do atual Arroio do Meio. Foi por volta de 1850 que iniciou efetivamente as atividades na fazenda São Caetano, que nessa época contava com casas de moradia, casa de atafona, engenho de cana, plantações, campos e matos. Além disso, na fazenda trabalhavam empregados do capitão Ribeiro e escravos.
Com o falecimento do capitão, seus herdeiros começaram a vender partes da fazenda São Caetano. Em 1860, Johann Gerhard e seus filhos compraram a parte da fazenda onde hoje se localiza São Caetano. Eles foram os primeiros imigrantes alemães que se fixaram em Arroio do Meio. Em 1861, a parte da fazenda que compreende o espaço entre a rua Gustavo Wienandts e o arroio Forqueta, incluindo o atual centro da cidade, foi comprada por Antônio Fialho de Vargas. Ao longo das décadas de 1860 e 1870, chegaram mais famílias de imigrantes alemães, além de italianos e outras etnias, que colaboraram para desencadear o efetivo processo de colonização.
Na época, o povoado era chamado Nossa Senhora do Auxílio da Barra do Arroio do Meio e pertencia a Taquari. Mais tarde foi parte de Estrela e de Lajeado, tendo se emancipado deste último em 1934. O nome combinava referências à santa padroeira do povoado, hoje conhecida como Nossa Senhora do Perpétuo Socorro, e à localização da sede do povoado e dos vários cursos de água que o cortavam e serviam como via de acesso ao território no início da colonização. A primeira planta do povoado data de 1875 e cobre a parte central do local, então situado próximo ao arroio do Meio, que por sua vez é assim chamado por situar-se entre os arroios Grande e Forqueta.

Distrito criado com a denominação de Arroio do Meio pelos Atos Municipais nº 33, de 21/10/1910, e nº 473, de 21/12/1914. Instalado em 10/01/1915, no município de Lajeado.
Desmembrado dos municípios de Lajeado e Encantado, Arroio do Meio é elevado à categoria de município pelo Decreto nº 5.759, de 28/11/1934. O município é instalado em 02/01/1935, constituído de dois distritos: Arroio do Meio e Nova Bréscia, desmembrado de Encantado.
Pelo Decreto Estadual nº 7.199, de 31/03/1938, o distrito de Nova Bréscia passa a denominar-se Tiradentes.
Pelo Decreto-Lei Estadual nº 720, de 29/12/1944, o distrito de Tiradentes passa a denominar-se Canabarro.
Pela Lei Municipal nº 5, de 04/04/1950, o distrito de Canabarro passa a denominar-se Nova Bréscia.
Pela Lei Municipal nº 37, de 31/12/1956, é criado o distrito de Pouso Novo e anexado ao município de Arroio do Meio.
Pela Lei Municipal nº 16, de 27/09/1958, é criado o distrito de Travesseiro (ex-povoado) e anexado ao município de Arroio do Meio.
Pela Lei Estadual nº 15, de 04/08/1962, é criado o distrito de Coqueiro Baixo e anexado ao município de Arroio do Meio.
Em divisão territorial datada de 31/12/1963, o município é constituído de cinco distritos: Arroio do Meio, Coqueiro Baixo, Nova Bréscia, Pouso Novo e Travesseiro.
Pela Lei Estadual nº 4.903, de 28/12/1964, os distritos de Nova Bréscia e Coqueiro Baixo são desmembrados de Arroio do Meio para constituir o novo município de Nova Bréscia.
Pela Lei Municipal nº 46, de 20/12/1965, é criado o distrito de Capitão e anexado ao município de Arroio do Meio.
Em divisão territorial datada de 1º/01/1979, o município é constituído de quatro distritos: Arroio do Meio, Capitão, Pouso Novo e Travesseiro.
Pela Lei Municipal nº 377, de 11/04/1988, é criado o distrito de Forqueta e anexado ao município de Arroio do Meio.
Pela Lei Estadual nº 8.581, de 29/04/1988, o distrito de Pouso Novo é desmembrado de Arroio do Meio e elevado à categoria de município.
Pela Lei Estadual nº 9.561, de 20/03/1992, o distrito de Capitão é desmembrado de Arroio do Meio e elevado à categoria de município.
Pela Lei Estadual nº 9.596, de 20/03/1992, o distrito de Travesseiro é desmembrado de Arroio do Meio e elevado à categoria de município.
Pela Lei Municipal nº 1.094, de 20/10/1994, é criado o distrito de Palmas (ex-povoado) e anexado ao município de Arroio do Meio.
Pela Lei nº 2.271, de 17/09/2004, é criado o distrito de Vale do Arroio Grande e anexado ao município de Arroio do Meio.
Em divisão territorial datada de 2005, o município é constituído de quatro distritos: Arroio do Meio, Forqueta, Palmas e Vale do Arroio Grande.
Assim permanece em divisão territorial datada de 2017.