Smith diente bei der Marinereserve und war in Hawaii bei der Fleet All-Weather Training Unit-Pacific stationiert, einer Flugtrainingseinheit in der Nähe von Honolulu. Nach einer zufälligen Begegnung mit dem Schauspieler James Cagney wurde er ermutigt, eine Karriere in Hollywood anzustreben. (Cagney hatte auch andere junge Schauspieler ermutigt, denen er Rollen in zwei Filmen von 1956 verschaffte.) Später spielte er den Sohn von Cagneys Figur in Man of a Thousand Faces.
unterschrieb Smith 1957 bei Columbia Pictures und drehte mehrere Filme, bevor er 1958 zu Warner Bros. wechselte. Am 16. April 1958 trat Smith mit Charles Bickford in „The Daniel Barrister Story“ in der NBC-Sendung Wagon Train auf. Seine größte Filmpräsenz war die Rolle des erwachsenen Patrick Dennis in „Auntie Mame“ mit Rosalind Russell.
Seine wichtigste Fernsehrolle war der Privatdetektiv Jeff Spencer in „77 Sunset Strip“:951 Smith spielte in 74 Episoden der Serie von Warner Bros. mit. Aufgrund seiner Popularität in der Serie veröffentlichte Warner Bros. im Juni 1959 ein LP-Album von Smith mit dem Titel Beach Romance auf Warner Bros. Records WS 1305, im Juni 1959. 1962 verließ er die beliebte ABC-Sendung wegen eines Blutgerinnsels in seinem Gehirn. Nach einer Operation erholte er sich davon.
Bevor er eine Rolle in einer anderen Fernsehserie bekam, sagte Smith, dass er „mich von einem Punkt zurückkämpfen musste, an dem ich fast beschlossen hatte, die Schauspielerei aufzugeben.“ Er spielte dann die Rolle des Lt. Douglas Roberts in Mister Roberts, einer Comedy-Drama-Serie auf NBC-TV in den Jahren 1965-1966.
Er produzierte zwei Filme mit Allan Carr, The First Time (1969) und C.C. and Company (1970), die er auch schrieb.
Seine Gesundheit verschlechterte sich, und 1980 wurde bei ihm laut Ehefrau Ann-Margret Myasthenia gravis, eine neuromuskuläre Krankheit, diagnostiziert.
Seine Krankheit ging 1985 in Remission. Nach seinem Rückzug von der Bühne managte er die Karriere seiner Frau und produzierte ihre beliebten Bühnenshows in Las Vegas. In einem Interview mit der New York Post sagte Ann-Margret, dass er an der Parkinson-Krankheit leide. Nachdem sich sein Gesundheitszustand verschlechtert hatte, trat er nur noch selten im Fernsehen auf, obwohl er an der Sendung This Is Your Life teilnahm, als der Moderator Ralph Edwards Ann-Margret eine Folge widmete. Zusätzlich zu den unten aufgeführten Auftritten trat Smith in mehreren Spielshows auf.