Smith służył w Naval Reserve i stacjonował na Hawajach z Fleet All-Weather Training Unit-Pacific, jednostką szkolenia lotniczego w pobliżu Honolulu. Po przypadkowym spotkaniu z aktorem Jamesem Cagneyem, został zachęcony do spróbowania kariery w Hollywood. (Cagney zachęcał również innych młodych aktorów, dla których znalazł role w dwóch filmach z 1956 roku). Później zagrał syna postaci Cagneya w Człowieku o tysiącu twarzy.
Smith podpisał kontrakt z Columbia Pictures w 1957 roku i nakręcił kilka filmów, a następnie przeniósł się do Warner Bros. w 1958 roku. 16 kwietnia 1958 roku Smith wystąpił u boku Charlesa Bickforda w „The Daniel Barrister Story” w NBC’s Wagon Train. Jego największą filmową odsłoną była rola dorosłego Patricka Dennisa w „Ciotce Mame”, u boku Rosalind Russell.
Jego popisową rolą telewizyjną był prywatny detektyw Jeff Spencer w „77 Sunset Strip”.:951 Smith wystąpił w 74 odcinkach serialu Warner Bros. Ze względu na jego popularność w serialu, Warner Bros. wydał jeden album LP Smitha zatytułowany, Beach Romance na Warner Bros. Records WS 1305, w czerwcu 1959 roku. Opuścił popularny program ABC w 1962 roku z powodu zakrzepu krwi w mózgu. Wyleczył się z tego po operacji.
Zanim otrzymał rolę w innym serialu telewizyjnym, Smith powiedział, że musiał „wywalczyć sobie drogę powrotną z punktu, w którym prawie postanowiłem zrezygnować z aktorstwa.” Następnie wystąpił jako porucznik Douglas Roberts w Mister Roberts, serialu komediowo-dramatycznym w NBC-TV w latach 1965-1966.
Wyprodukował dwa filmy z Allanem Carrem, The First Time (1969) i C.C. and Company (1970), które również napisał.
Jego zdrowie podupadło i w 1980 roku, według żony Ann-Margret, zdiagnozowano u niego myasthenia gravis, chorobę nerwowo-mięśniową.
Jego stan przeszedł w remisję w 1985 roku. Po przejściu na emeryturę z występów, zarządzał karierą żony i produkował jej popularne pokazy sceniczne w Las Vegas. W wywiadzie dla New York Post, Ann-Margret powiedział, że miał chorobę Parkinsona. Po pogorszeniu się jego stanu zdrowia rzadko pojawiał się w telewizji, choć wziął udział w programie This Is Your Life, w którym prowadzący Ralph Edwards poświęcił jeden z odcinków Ann-Margret. Poza występami wymienionymi poniżej, Smith pojawił się w kilku teleturniejach.