A Szent Raymond-templom plébániája megelőzte Bronx létrejöttét, amikor a terület még a New York állambeli Westchester megye déli részéhez tartozott. John Dubois New York-i püspök 1835. december 2-án 160 dollárért okiratot készíttetett a New York-i Fort Schuylertől mintegy két mérföldre északra fekvő, 125 láb x 26 láb nagyságú telekről. Még abban az évben templomot és/vagy iskolát akartak építeni a telken, azonban semmit sem építettek.
1842-ben John Hughes püspök megvásárolta azt az egy hektárt, amelyen a jelenlegi Szent Raymond-templom áll, és egy régi fapajtát alakított át ideiglenes templommá. 1847-ben egy szomszédos holdat is megvásároltak. A megvásárolt földterület egybeesett a Fordham faluban lévő Szent János Kollégium, a későbbi Fordham Egyetem 1840-es megalapításával. 1842-ben Felix Vilanis atyát, a Szent János templom elöljáróját nevezték ki Westchester és a Sound mentén fekvő falvak lakóinak ellátására. Ő építette az első templomot, amelyet 1845. augusztus 31-én szenteltek fel. A szentmise után Hughes püspök megáldotta a templom mellett kialakított temetőt.
1850-re a Szent Raymondnak kilenc missziós temploma volt Bronxban. A paphiány és a rossz utak miatt nem lehetett minden missziós kápolnában minden héten misét mondani, ezért a papok körbe-körbe lovagoltak, és sorban meglátogatták mindegyiket.
1865-ben a Katolikus Védegylet, a nincstelen katolikus gyermekek védelmére szervezett árvaház 114 hektár közeli mezőgazdasági területet vásárolt több pajtával együtt. Iskolát és kollégiumokat építettek. A Keresztény Iskolák Testvérei és az Irgalmas Nővérek irányítása alatt a gyermekek oktatásban részesültek, és szakmát tanítottak nekik. A fiúk megtanultak cipészkedni, sütni, ácskodni, kovácsolni, kerékgyártani, gazdálkodni és kertészkedni. A lányok hímezni, főzni és kesztyűt készíteni tanultak. Az intézmény 1938-as eladásáig szerves része volt a plébániának.
A neves lelkipásztorok között volt William O’Reilly tiszteletes, az 1840-es évek végének lelkésze, aki a második hartfordi püspök testvére volt, később a Rhode Island-i Newportban lévő Our Lady of the Isle plébánosa és a Hartfordi Egyházmegye általános helynöke. A tiszteletes I. A. Kensella (1857-től 1875-ig volt lelkész) végrendeletében mintegy 18 000 dollárt hagyott az új templom felépítésére. Az előrelátó Michael B. McEvoy tiszteletes (1875-től 1885-ig volt lelkész) megvásárolta a Throgg’s Neck-en lévő Underhill farmot, és temetkezési célokra szenteltette fel Szent Raymond temetőnek, amely a városrész egyik nevezetes temetője.