Sangeren Paul Janeway og bassisten Jesse Phillips mødtes i midten af 2000’erne, da de spillede i Birmingham som en del af det alternative soulband The Secret Dangers. I 2012 mødtes Jesse og Paul igen i Ol’ Elegante Studios i Birmingham for at starte et nyt projekt. Janeway siger om projektet med Phillips: “Det skulle være vores sidste hurra”, inden vi fokuserede på andre karrierer, “men så var der bare noget, der klikkede, og vi gik derfra med noget”. Da de to begyndte at arbejde omkring Janeways stemme, gik det op for dem, at de var ved at danne et soul-outfit. Efterhånden som projektet skred frem, hentede parret Browan Lollar, tidligere medlem af The 400 Unit, Andrew Lee, Ben Griner og Allen Branstetter ind. Her indspillede de deres første EP, Greetings from St. Paul and The Broken Bones, før de nogensinde spillede et liveshow.
Efter udgivelsen af Greetings from St. Paul and The Broken Bones fik bandet opmærksomhed fra både managers og labels. I januar 2013 begyndte de at indspille deres første fuldlængdealbum, Half the City, i Nutthouse Recording Studios Sheffield, Alabama og Fame Studios i Muscle Shoals, Alabama. Under indspilningen af albummet hentede bandet Al Gamble ind til at spille tangenter. Gamble fortsatte med at spille med St. Paul and The Broken Bones og har været fuldtidsmedlem siden januar 2014. Half the City blev produceret af Ben Tanner fra Alabama Shakes.
I februar 2013 fik St. Paul and The Broken Bones opmærksomhed fra Traci Thomas fra Thirty Tigers, som skrev under som deres manager. Kort efter begyndte de at tage på weekendturne på deres EP Greetings from St. Paul and The Broken Bones og ventede på, at hornspillerne skulle afslutte collegeuddannelsen, før de gik i gang med mere omfattende turnéer.
Den 18. februar 2014 blev LP’en udgivet under Single Lock Records, et Florence, Alabama-baseret pladeselskab, der ejes af Ben Tanner, Will Trapp og John Paul White fra The Civil Wars. Half the City modtog straks kritikerroser fra mange nationale journalistiske medier, herunder Paste magazine, Garden and Gun, Southern Living, Rolling Stone og NPR. I sin første salgsuge nåede Half the City op på nr. 62 på Billboard 200-listen. Efter store historier i NPR Morning Edition og en national tv-debut på CBS This Morning: Paul and The Broken Bones’ debutalbum nåede nr. 56 på Billboard 200-listen. Ud over deres egen turné åbnede bandet for The Rolling Stones’ Zip Code Tour i Atlanta, Georgia, den 9. juni 2015 og i Buffalo, New York, den 11. juli 2015. De optrådte med “All I Ever Wonder” live på BBC2 fra Glastonbury Festival den 25. juni 2016.
I maj 2015 forlod trombonist Ben Griner gruppen for at arbejde på personlige projekter.
Deres andet album Sea of Noise blev udgivet i september 2016.
Bandet udgav en single, “Apollo”, i juni 2018 og annoncerede et album, Young Sick Camellia, der udkom i september.
Paul Janeway var med på titelnummeret på Sigalas album Brighter Days fra 2018.