Corria o ano de 1875 quando chegaram as terras do atual Município os primeiros colonizadores, José Manoel Corrêa e cinco filhos homens, que se estabeleceram onde hoje assenta a Cidade, e Trintão José Francisco de Oliveira e Leonor Gabriel de Souza, que se fixaram no local chamado Linha 28.
Com o decorrer do tempo, descendentes dos primitivos imigrantes alemães e italianos se estabeleceram na região. Ate 1904, era o território parte integrante do Município de Taquara, então Taquara do Mundo Novo, do qual veio a tornar-se o 5.° distrito, com sede em Linha Nova. No mesmo ano era criado um Cartório de Notas e Registro Civil. Entre os habitantes que mais contribuíram para o desenvolvimento do Distrito, figuram João Leopoldo Lied, escrivão, José Nicoletti Filho, 1.° subintendente do Município, Pedro Benetti, comerciante, e outros.
Em 17 de janeiro de 1913, verificou-se a transferência da sede distrital para o local onde hoje se ergue a Cidade. A princípio, fora escolhida a denominação de Dinizópolis, em homenagem a Diniz Martins Rangel, na época chefe político e Intendente de Taquara. A opção pelo novo sitio devia-se à notícia de que uma ferrovia iria passar por ali.
Prevaleceu o topônimo Gramado, inspirado na existência de um terreno recoberto de grama e com frondosas árvores, utilizado como local de parada e repouso de viajantes. Em 1914, concluiu-se a construção de uma capela, e a 7 de maio de 1917 era criada a paróquia de São Pedro.
Era já então evidente o progresso, tornado manifesto pela instalação de uma Agência do Correio e de um escritório do Banco Nacional do Comércio em 1918; de iluminação elétrica, dois anos depois, fornecida por usina própria, e pela chegada, em 1919, dos trilhos da Viação Férrea do Rio Grande do Sul, facilitando o intercâmbio comercial com outras praças do Estado.
A 6 de fevereiro de 1 926, inaugurava-se a Exatoria Estadual. Compunham a população do Distrito cerca de 60 famílias, com 3.500 pessoas, nos povoados de Caracol, Linha Nova, Linha Bonita, Pedra Branca, Várzea Grande, Renania, Tapera, Morro Redondo, Linha Ávila, Marcondes, São Roque, Linha Araripe, Linha 15, Linha 28, Serra Grande, Moreira Mascarenhas, Furna, Canelinha, Picada, Quilombo, Moleque, Campestre, Caboclos, destacando-se o de Canela, ponto terminal da linha férrea.
Com o correr do tempo, novos melhoramentos se sucedem: em 1930, cinema; em 1933, inauguração de um educandário católico; em 1935, construção da igreja-matriz; em 1937, instalação do Hospital Santa Terezinha; em 1948, outro hospital, e em 1951 o asfaltamento da principal rua da Cidade. Algumas industriais iniciam suas atividades e o comércio desenvolve-se. Contribui para maior projeção de Gramado o fato de ser procurado o Distrito como estação de veraneio.
Em 1948, frustra-se uma tentativa de emancipação. Em 1951, organiza-se uma comissão Pró-Melhoramentos de Gramado, constituída de três membros: Wartel Bertolucci, presidente, Hugo Daros secretário e Eusébio Balzaretti, tesoureiro. A 15 de dezembro de 1954, a Lei Estadual n.º 2.522 cria o Município de Gramado, acentuando-se o desenvolvimento, em todos os setores, e passando a formar entre as mais importantes cidades turísticas do Estado, famosa por suas belezas naturais.

Distrito criado com a denominação de Linha Nova, por Atos Municipais n.ºs 72, de 19-04-1904 e 80 A, de 10-11-1904, subordinado ao município de Taquara do Mundo Novo.
Em divisão administrativa referente ao ano de 1911 o distrito de Linha Nova, figura no município de Taquara do Mundo Novo.
Pelo Ato Municipal n.º 139, de 17-01-1913, o distrito de Linha Nova tomou o nome de Gramado.
Nos quadros de apuração do Recenseamento Geral de 1-IX-1920, o município se denomina Taquara o distrito de Gramado (ex-Linha Nova), figura no município de Taquara (ex-Taquara do Mundo Novo).
Em divisão administrativa referente ao ano de 1933, o distrito de Gramado figura no município de Taquara.
Assim permanecendo em divisão territorial datada de 1-VII-1950.
Elevado á categoria de município com a denominação de Gramado, pela Lei Estadual n.° 2.522, de 15-12-1954, desmembrado do município de Taquara. Sede no antigo distrito de Gramado. Constituído do distrito sede. Instalado em 01-07-1955.
Em divisão territorial datada de 1-VII-1960, o município é constituído do distrito sede.
Assim permanecendo em divisão territorial datada de 2007.