A região começou a ser povoada no final do século XVIII, com a abertura de uma trilha que levava às minas de ouro de Cuiabá e Goiás. Saindo de Piracicaba, passando por Rio Claro, subindo as escarpas das encostas do planalto, passando pelos campos, matas e cerrados de Araraquara, levas de povoadores se estabeleceram na região.
A história de São Carlos tem início em 1831, com a demarcação da Sesmaria do Pinhal. Na data da fundação, 4 de novembro de 1857, a povoação era composta por algumas pequenas casas ao redor da capela e seus moradores eram, em sua maior parte, herdeiros da família Arruda Botelho, primeiros proprietários das terras da Sesmaria do Pinhal.
São Carlos é elevada à categoria de vila em 1865 e a Câmara Municipal é empossada. Em 1874 a vila contava com 6.897 habitantes e destacava-se na região pelo seu rápido crescimento e importância regional. Em 1880, passa de vila a cidade e em 1886, com uma população de 16.104 habitantes, já possui ampla infra-estrutura urbana.
Entre 1831 e 1857 são formadas as fazendas de café pioneiras, marcando o início da primeira atividade econômica de maior expressão em São Carlos. A lavoura cafeeira chega à Fazenda Pinhal em 1840 e se espalha por todas as terras férteis no município, tornando-se o principal produto de exportação.
A cidade surge no contexto da expansão da lavoura cafeeira, que é marcante nas últimas décadas do século XIX e nas duas primeiras do século XX. A chegada da ferrovia em 1884 propiciou um sistema eficiente para escoar a produção para o porto de Santos e deu um grande impulso ao desenvolvimento da economia da região. A ferrovia também contribuiu para que a área central da cidade se firmasse como local de destaque político e econômico.
Nas últimas décadas do século XIX ocorreu o fenômeno social que mais influência deixou na região central do Estado de São Paulo: a imigração. São Carlos recebeu imigrantes alemães trazidos pelo Conde do Pinhal em 1876, e de 1880 a 1904, o município foi um dos principais pólos atrativos de imigrantes do Estado de São Paulo. A grande maioria deles era originária das regiões setentrionais da Itália. Os imigrantes vinham para trabalhar nas lavouras de café e, graças às suas habilidades, atuavam também na manufatura e no comércio.
No início do século XX existiam inúmeras sociedades culturais e de ajuda mútua que desenvolviam atividades sociais com a finalidade de promover a educação, destacando-se a Vittorio Emanuele, de 1900, e a Dante Alighieri, de 1902. A presença de imigrantes italianos era tão grande que durante as primeiras décadas do século XX, o governo italiano manteve um vice-consulado em São Carlos. A crise cafeeira de 1929 levou os imigrantes a deixarem a atividade rural, passando a trabalhar no centro urbano como operários nas oficinas, no comércio, na prestação de serviços, na fábrica de artefatos de madeira e de cerâmica e na construção civil.
Os fazendeiros aplicavam os lucros obtidos com o café na constituição de várias empresas em São Carlos: bancos, companhias de luz elétrica, de bondes, telefones, sistemas de água e esgoto, teatro, hospitais e escolas, fortalecendo a infra-estrutura urbana e criando condições para a industrialização. Com os conhecimentos dos imigrantes e com a chegada de migrantes de outros centros urbanos nas décadas de 30 e 40, a indústria consolida-se como a principal atividade econômica de São Carlos, que chega à década de 50 como centro manufatureiro diferenciado, com relevante expressão industrial entre as cidades do interior do Estado de São Paulo.
O setor industrial desenvolveu-se também a partir de oficinas que serviam às plantações de café. A fabricação de máquinas de beneficiamento, sapatos, adubos, ferragens, móveis, macarrão e charutos, assim como as alfaiatarias, cervejarias, fundições, serrarias, tecelagem, uma indústria de lápis e olarias marcam a economia de São Carlos nos anos 30. Nas décadas de 50 e 60 a indústria solidifica-se com a instalação de fábricas de geladeiras, compressores, tratores e uma grande quantidade de empresas pequenas e médias, fornecedoras de produtos e serviços.
Na segunda metade do século XX, a cidade recebe um grande impulso para o seu desenvolvimento tecnológico e educacional com a implantação, em abril de 1953, da Escola de Engenharia de São Carlos, vinculada à Universidade de São Paulo (USP), e, na década de 70, com a criação da Universidade Federal de São Carlos (UFSCar).

Distrito criado com a denominação de São Carlos do Pinhal, pela Lei Provincial n.º 33, de 24 -04-1858, subordinado ao município de Araraquara.
Elevado à categoria de vila com denominação de São Carlos do Pinhal, pela Lei Provincial n.º 15, de 18-03-1865, desmembrada do município de Araraquara. Sede na antiga vila de São Carlos do Pinhal. Constituído do distrito sede.
Elevado à condição de cidade com a denominação de São Carlos do Pinhal, pela lei Provincial n.º 76, de 21-04-1880.
Pela Lei Estadual n.º 727, de 24-10-1900, é criado o distrito de Ibaté e anexado ao município de São Carlos do Pinhal.
Pela Lei Estadual n.º 1.158, de 26-12-1908, o município de São Carlos do Pinhal tomou a denominação de São Carlos.
Em divisão administrativa referente ao ano de 1911, o município é constituído de 2 distritos: São Carlos (ex-São Carlos do Pinhal) e Ibaté.
Pela Lei Estadual n.º 1.331, de 22-12-1912, é criado o distrito de Santa Eudóxia e anexado ao município de São Carlos do Pinhal.
Em divisão administrativa referente ao ano de 1933, o município é constituído de 3 distritos: São Carlos, Ibaté e Santa Eudóxia.
Assim permanecendo em divisões territoriais datadas de 31-XII-1936 e 31-XII-1937.
Pela Lei Estadual n.º 233, de 24-12-1948, é criado o distrito de Água Vermelha e anexado ao município de São Carlos do Pinhal.
Em divisão territorial datada de 1-VII-1950, o município é constituído de 4 distritos: São Carlos, Água Vermelha, Ibaté e Santa Eudóxia.
Pela Lei Estadual n.º 2.456, de 30-12-1953, é desmembrado do município de São Carlos o distrito de Ibaté. Elevado à categoria de município.
Em divisão territorial datada de 1-VII-1960, o município é constituído de 3 distritos: São Carlos, Água Vermelha e Santa Eudóxia.
Assim permanecendo em divisão territorial datada de 1-I-1979.
Pela Lei Estadual n.º 3.198, de 23-12-1981, foram criados os distritos de Bela Vista São-Carlense e Vila Nery e anexados ao município de São Carlos.
Em divisão territorial datada de 1988, o município é constituído de 5 distritos: São Carlos, Água Vermelha, Bela Vista São-Carlense, Santa Eudóxia e Vila Nery.
Assim permanecendo em divisão territorial datada de 2009.