Sångaren Paul Janeway och basisten Jesse Phillips träffades i mitten av 2000-talet när de spelade i Birmingham som en del av den alternativa soulgruppen The Secret Dangers. År 2012 träffades Jesse och Paul tillbaka i Ol’ Elegante Studios i Birmingham för att starta ett nytt projekt. Janeway säger om projektet med Phillips: ”Det skulle bli vårt sista hurra” innan vi fokuserade på andra karriärer, ”men sedan klickade något och vi gick därifrån med något”. När de två började arbeta kring Janeways röst insåg de att de höll på att bilda en soulgrupp. Allteftersom projektet fortskred tog paret in Browan Lollar, tidigare medlem i The 400 Unit, Andrew Lee, Ben Griner och Allen Branstetter. Här spelade de in sin första EP, Greetings from St. Paul and The Broken Bones, innan de någonsin spelade en livespelning.
Efter att ha släppt Greetings from St. Paul and The Broken Bones fick bandet uppmärksamhet från både managers och bolag. I januari 2013 började de spela in sitt första fullängdsalbum Half the City på Nutthouse Recording Studios Sheffield, Alabama och Fame Studios i Muscle Shoals, Alabama. Under inspelningen av albumet tog bandet in Al Gamble för att spela tangenter. Gamble fortsatte att spela med St Paul and The Broken Bones och har varit medlem på heltid sedan januari 2014. Half the City producerades av Ben Tanner från Alabama Shakes.
I februari 2013 fick St. Paul and The Broken Bones uppmärksamhet av Traci Thomas från Thirty Tigers, som skrev på som deras manager. Kort därefter påbörjade de helgturnéer med EP:n Greetings from St. Paul and The Broken Bones och väntade på att blåsarna skulle ta examen från college innan de gav sig ut på mer omfattande turnéer.
Den 18 februari 2014 släpptes LP:n under Single Lock Records, ett Florence, Alabama-baserat skivbolag som ägs av Ben Tanner, Will Trapp och John Paul White från The Civil Wars. Omedelbart fick Half the City kritikerros från många nationella journalistiska medier som Paste magazine, Garden and Gun, Southern Living, Rolling Stone och NPR. Under sin första försäljningsvecka nådde Half the City plats 62 på Billboard 200-listan. Efter stora reportage i NPR Morning Edition och en nationell tv-debut i CBS This Morning: Paul and The Broken Bones’ debutalbum nådde plats 56 på Billboard 200-listan. Förutom sin egen turné öppnade bandet för The Rolling Stones Zip Code Tour i Atlanta, Georgia den 9 juni 2015 och i Buffalo, New York den 11 juli 2015. De framförde ”All I Ever Wonder” live på BBC2 från Glastonburyfestivalen den 25 juni 2016.
I maj 2015 lämnade trombonisten Ben Griner gruppen för att arbeta med personliga projekt.
Det andra albumet Sea of Noise släpptes i september 2016.
Bandet släppte en singel, ”Apollo”, i juni 2018 och annonserade ett album, Young Sick Camellia, som släpptes i september.
Paul Janeway medverkade på titelskivan på Sigalas album Brighter Days från 2018.