A origem do município de David Canabarro remonta à segunda metade do século XIX, quando se iniciou o povoamento da área hoje delimitada em seu território oficial. Nesse período, alguns posseiros alemães e luso-brasileiros fixaram-se em vários pontos isolados, estabeleceram os limites das áreas ocupadas e encaminharam a legitimação de suas terras, alguns ainda na época do Império. As primeiras localidades que se formaram foram: Santo Antonio do Carreiro, no final do século XIX; Nossa Senhora do Rosário, no ano de 1912; e São Sebastião, na década de 1920.
Com a proclamação da República brasileira, o processo continuou, até a década de 1930, quando se intensificou a corrente migratória, agora proveniente das primeiras colônias italianas, como as de Caxias do Sul, Alfredo Chaves, Antônio Prado, Nova Bassano e Guaporé. Com essa expansão colonial, foram surgindo os núcleos comunitários, formados a partir da construção de capelas, logo que os colonos se estabeleciam ao longo das picadas abertas na mata.
A exploração da madeira nobre dos pinheirais pelas serrarias que se instalaram em vários pontos do território colaborou para o desenvolvimento da agricultura colonial, atividade que permanece até hoje no município. Consolidados os núcleos comunitários, todos eles ligados à atividade econômica da agricultura, um deles, então denominado Sede Trinta e Cinco, começou a delinear-se como a futura cidade de David Canabarro. Com isso, o comércio, algumas pequenas indústrias e alguns serviços, como o cartório de registro de pessoas e documentos e alguns pequenos hotéis, por exemplo, foram fortalecendo o núcleo urbano.
Ao longo de sua história, a localidade fez parte dos municípios de Rio Pardo, de Cruz Alta e de Passo Fundo. As denominações do lugar incluíram: Serra do Carreiro, até o ano de 1935, quando passou a ser denominado Sede Trinta e Cinco; Vila Augusto César, alguns anos antes de 1950, principalmente adotado pelos padres missionários, mas sem respaldo popular; e David Canabarro, a partir de sua emancipação.

Distrito criado com a denominação de Trinta e Cinco (ex-povoado) pela Lei Municipal nº 152, de 27/01/1950, com território desmembrado do distrito de Ametista, subordinado ao município de Passo Fundo.
Com a denominação de David Canabarro e desmembrado de Passo Fundo, o distrito é elevado à categoria de município pela Lei Estadual nº 5.196, de 28/12/1965. O município é instalado em 28/05/1966, constituído do distrito-sede.
Assim permanece em divisão territorial datada de 2020.