Smith sloužil u námořní zálohy a byl umístěn na Havaji u Fleet All-Weather Training Unit-Pacific, letecké výcvikové jednotky poblíž Honolulu. Po náhodném setkání s hercem Jamesem Cagneym byl povzbuzen, aby zkusil kariéru v Hollywoodu. (Cagney povzbuzoval i další mladé herce, pro které našel role ve dvou filmech z roku 1956). Později hrál syna Cagneyho postavy ve filmu Muž tisíce tváří.
Smith podepsal v roce 1957 smlouvu s Columbia Pictures a natočil několik filmů, v roce 1958 pak přešel k Warner Bros. Dne 16. dubna 1958 se Smith objevil s Charlesem Bickfordem ve filmu „The Daniel Barrister Story“ v pořadu NBC Wagon Train. Jeho největším filmovým zviditelněním byla role dospělého Patricka Dennise ve filmu Auntie Mame s Rosalind Russellovou.
Jeho charakteristickou televizní rolí byl soukromý detektiv Jeff Spencer v seriálu 77 Sunset Strip.951 Smith se objevil v 74 epizodách seriálu společnosti Warner Bros. Díky jeho popularitě v seriálu vydala společnost Warner Bros. jedno Smithovo LP album s názvem Beach Romance na značce Warner Bros. Records WS 1305 v červnu 1959. Populární pořad ABC opustil v roce 1962 kvůli krevní sraženině v mozku. Z té se vyléčil po operaci.
Než získal roli v dalším televizním seriálu, musel se podle Smitha „probojovat zpět z bodu, kdy jsem se téměř rozhodl s herectvím skončit“. Poté hrál roli poručíka Douglase Robertse v komediálně-dramatickém seriálu Mister Roberts na televizní stanici NBC v letech 1965-1966.
Společně s Allanem Carrem produkoval dva filmy: The First Time (1969) a C.C. and Company (1970), k nimž napsal i scénář.
Jeho zdravotní stav se zhoršil a v roce 1980 mu byla podle manželky Ann-Margret diagnostikována myasthenia gravis, nervosvalové onemocnění.
V roce 1985 se jeho onemocnění dostalo do remise. Po odchodu do důchodu řídil kariéru své ženy a produkoval její populární estrády v Las Vegas. V rozhovoru pro New York Post Ann-Margret uvedla, že trpí Parkinsonovou chorobou. Po zhoršení zdravotního stavu se v televizi objevoval jen zřídka, i když se zúčastnil pořadu This Is Your Life, kdy moderátor Ralph Edwards věnoval jednu epizodu Ann-Margret. Kromě níže uvedených vystoupení se Smith objevil v několika herních pořadech
.