El vocalista Paul Janeway y el bajista Jesse Phillips se conocieron a mediados de la década de 2000 mientras tocaban en Birmingham como parte del grupo de soul alternativo The Secret Dangers. En 2012, Jesse y Paul volvieron a reunirse en los estudios Ol’ Elegante de Birmingham para iniciar un nuevo proyecto. Janeway dice del proyecto con Phillips: «Iba a ser nuestro último hurra» antes de centrarse en otras carreras, «pero entonces algo simplemente hizo clic y salimos de allí con algo.» Cuando los dos empezaron a trabajar en torno a la voz de Janeway, se dieron cuenta de que estaban formando un conjunto de soul. A medida que el proyecto avanzaba, la pareja incorporó a Browan Lollar, ex miembro de The 400 Unit, Andrew Lee, Ben Griner y Allen Branstetter. Aquí grabaron su primer EP, Greetings from St. Paul and The Broken Bones, antes de tocar en directo.
Después de publicar Greetings from St. Paul and The Broken Bones, la banda se ganó la atención de managers y sellos por igual. En enero de 2013, comenzaron a grabar su primer álbum de larga duración, Half the City, en los Nutthouse Recording Studios Sheffield, Alabama y Fame Studios en Muscle Shoals, Alabama. Durante la grabación del álbum, la banda incorporó a Al Gamble para que tocara las teclas. Gamble siguió tocando con St. Paul and The Broken Bones y es miembro a tiempo completo desde enero de 2014. Half the City fue producido por Ben Tanner, de Alabama Shakes.
En febrero de 2013, St. Paul and The Broken Bones llamaron la atención de Traci Thomas, de Thirty Tigers, que firmó como su representante. Poco después, comenzaron una gira de fin de semana con su EP Greetings from St. Paul and The Broken Bones, a la espera de que los trompetistas se graduaran en la universidad antes de embarcarse en una gira más extensa.
El 18 de febrero de 2014, el LP fue lanzado bajo Single Lock Records, un sello discográfico con sede en Florence, Alabama, propiedad de Ben Tanner, Will Trapp y John Paul White de The Civil Wars. Inmediatamente, Half the City recibió elogios de la crítica de muchos medios periodísticos nacionales, como la revista Paste, Garden and Gun, Southern Living, Rolling Stone y NPR. En su primera semana de ventas, Half the City alcanzó el puesto 62 en las listas Billboard 200. Tras los importantes reportajes de NPR Morning Edition y un debut televisivo nacional en CBS This Morning: Saturday, el álbum de debut de St. Paul and The Broken Bones alcanzó el puesto 56 en la lista Billboard 200. Además de su propia gira, la banda fue telonera del Zip Code Tour de The Rolling Stones en Atlanta, Georgia, el 9 de junio de 2015 y en Buffalo, Nueva York, el 11 de julio de 2015. Interpretaron «All I Ever Wonder» en directo en la BBC2 desde el Festival de Glastonbury el 25 de junio de 2016.
En mayo de 2015, el trombonista Ben Griner dejó el grupo para trabajar en proyectos personales.
Su segundo álbum Sea of Noise fue lanzado en septiembre de 2016.
La banda lanzó un sencillo, «Apollo», en junio de 2018, y anunció un álbum, Young Sick Camellia, lanzado en septiembre.
Paul Janeway apareció en el corte que da título al álbum de 2018 de Sigala, Brighter Days.