Originariamente era denominada 'Passagem de Juazeiro' pois era caminho para a vizinha cidade de Juazeiro, na margem oposta do Rio São Francisco no Estado da Bahia. A passagem servia como ponto de apoio do desenvolvimento da zona sertaneja do Estado, com vias de acesso para os Estados do Piauí, Ceará, Bahia, Minas Gerais, Rio de Janeiro e São Paulo. Por isso, Petrolina é cognominada Encruzilhada do Progresso, por ser passagem obrigatória para o norte e via de escoamento para o Centro Sul do País. (Fonte: OLIVEIRA, 2007).
O grande visionário de Petrolina foi o bispo Dom Malan. Dom Malan era italiano de nascimento, e veio para a cidade em 15 de agosto de 1924. Construiu a Catedral, o Palácio Diocesano, os Colégios Nossa Senhora Auxiliadora e Dom Bosco, e o Hospital Dom Malan.
Há versões em que o nome da cidade foi em homenagem ao então Imperador Dom Pedro II e sua esposa Dona Leopoldina. Outra história menciona a existência de uma pedra linda que havia na margem do rio, pedreira da qual foi retirada matéria-prima para a construção de um dos maiores monumentos históricos da cidade, a Igreja Catedral. O escritor Santana Padilha deixou escrito em seu livro Pedro e Lina que o nome da cidade se daria pelo fato de os dois primeiros moradores se chamarem Pedro e Lina e na ocasião do seu casamento o Frei Henrique, de sotaque italiano, ao pronunciar seus nomes fez-se ouvir Petrolina.

Elevado à categoria de vila com a denominação de Petrolina, pela Lei Provincial n.º 530, de 07-06-1862. Sede na povoação de Petrolina.
Pela Lei Provincial n.º 601, de 13-05-1864, a vila é extinta.
Elevado novamente à categoria de vila com a mesma denominação, pela Lei 921, de 18-05-1870. Instalada em 24-10-1870.
Pela Lei Provincial n.º 758, de 05-07-1867, é criado o distrito de Cachoeira do Roberto e anexado ao município de Petrolina.
Pela Lei n.º 2, de 20-04-1893, é criado o distrito de Caeira e anexado ao município de Petrolina.
Elevado à condição de cidade e sede do município com a denominação de Petrolina, pela Lei Estadual n.º 130, de 03-07-1895.
Pela Lei n.º 48, de 05-03-1900, é criado o distrito de Caboclo e anexado ao município de Petrolina.
Em divisão administrativa referente ao ano de 1911, o município é constituído de 4 distritos: Petrolina, Cachoeira do Roberto, Caeira e Caboclo.
Pela Lei Municipal n.º 30, de 22-04-1931, o distrito de Santa Fé (ex-Caeira) passou a denominar-se Rajada. Pela mesma Lei acima citada, o distrito de Caboclo tomou o nome de São João Afrânio.
Em divisão administrativa referente ao ano de 1933, o município aparece constituído de 6 distritos: Petrolina, Cachoeira do Roberto, Cachoeirinha, Itumirim (ex-Cachoeirinha), Rajada e São João Afrânio.
Em divisões territoriais datadas de 31-XII-1936 e 31-XII-1937, o município aprece constituído de 6 distritos: Petrolina, Santa Fé (ex-São João Afrânio), Cachoeira do Roberto, Caboclo, Itumirim e Poço da Anta.
Pelo Decreto-lei Estadual n.º 235, de 09-12-1938, o distrito de Cachoeira do Roberto, foi extinto sendo seu território anexado aos distritos de Afranio, Rajada e Poço Dantas. Pelo mesmo Decreto-lei acima citado, o distrito de Itumirim foi extinto sendo seu território anexado ao distrito sede do município de Petrolina.
No quadro fixado para vigorar no período de 1944-1948, o município e constituído de 3 distritos: Petrolina, Afrânio e Rajada.
Pela Lei Municipal n.º 19, de 31-10-1958, é criado o distrito de Cristália e anexado ao município de Petrolina.
Em divisão territorial datada de 1-VII-1960, o município é constituído de 4 distritos: Petrolina, Afrânio, Cristália e Rajada.
Pela Lei Municipal n.º 10, de 06-09-1963, é criado o distrito de Curral Queimado e anexado ao município de Petrolina.
Pela Lei Municipal n.º 11, de 06-09-1963, é criado o distrito de Dormentes e anexado ao município de Petrolina.
Pela Lei Municipal n.º 12, de 06-09-1963, é criado o distrito de Lagoa e anexado ao município de Petrolina.
Pela Lei Estadual n.º 4.893, de 20-12-1963, é desmembrado do município de Petrolina o distrito de Afrânio. Elevado à categoria de município.
Em divisão territorial datada de 31-XII-1963, o município é constituído de 6 distritos: Petrolina, Cristália, Curral Queimado, Dormentes, Lagoa e Rajada.
Pela Lei Estadual n.º 10.625, de 01-10-1991, são desmembrados do município de Petrolina, os distritos de Dormentes e Lagoa, para constituir o novo município de Dormentes.
Em divisão territorial datada de 1995, o município é constituído de 4 distritos: Petrolina, Cristália, Curral Queimado e Rajada.
Assim permanecendo em divisão territorial datada de 2007.