Smith prestò servizio nella Riserva Navale e fu di stanza alle Hawaii con la Fleet All-Weather Training Unit-Pacific, un’unità di addestramento al volo vicino a Honolulu. Dopo un incontro casuale con l’attore James Cagney, fu incoraggiato a tentare una carriera a Hollywood. (Cagney aveva incoraggiato anche altri giovani attori per i quali trovò dei ruoli in due film del 1956). In seguito interpretò il figlio del personaggio di Cagney in Man of a Thousand Faces.
Smith firmò con la Columbia Pictures nel 1957 e fece diversi film, poi passò alla Warner Bros. nel 1958. Il 16 aprile 1958, Smith apparve con Charles Bickford in “The Daniel Barrister Story” su Wagon Train della NBC. La sua più grande esposizione cinematografica fu il ruolo dell’adulto Patrick Dennis in Auntie Mame, con Rosalind Russell.
Il suo ruolo televisivo distintivo fu il detective privato Jeff Spencer in 77 Sunset Strip.:951 Smith apparve in 74 episodi della serie della Warner Bros. Grazie alla sua popolarità nello show, la Warner Bros. pubblicò un album LP di Smith intitolato, Beach Romance su Warner Bros. Records WS 1305, nel giugno 1959. Lasciò il popolare programma della ABC nel 1962 a causa di un coagulo di sangue nel suo cervello. Si riprese dopo un intervento chirurgico.
Prima di ottenere un ruolo in un’altra serie televisiva, Smith disse di aver dovuto “combattere per tornare indietro da un punto in cui avevo quasi deciso di abbandonare la recitazione”. Ha poi recitato nel ruolo del tenente Douglas Roberts in Mister Roberts, una serie comico-drammatica sulla NBC-TV nel 1965-1966.
Ha prodotto due film con Allan Carr, The First Time (1969) e C.C. and Company (1970), che ha anche scritto.
La sua salute diminuì, e nel 1980, secondo la moglie Ann-Margret, gli fu diagnosticata la miastenia gravis, una malattia neuromuscolare.
La sua condizione andò in remissione nel 1985. Dopo il suo ritiro dalle scene, ha gestito la carriera di sua moglie e ha prodotto i suoi popolari spettacoli di Las Vegas. In un’intervista al New York Post, Ann-Margret disse che aveva il morbo di Parkinson. Apparve raramente in televisione dopo che la sua salute si deteriorò, anche se partecipò a This Is Your Life, quando il conduttore Ralph Edwards dedicò un episodio ad Ann-Margret. Oltre alle apparizioni accreditate di seguito, Smith apparve in diversi game show.