Smith a servit în cadrul Rezervei Navale și a fost staționat în Hawaii la Fleet All-Weather Training Unit-Pacific, o unitate de pregătire a zborurilor de lângă Honolulu. După o întâlnire întâmplătoare cu actorul James Cagney, a fost încurajat să încerce o carieră la Hollywood. (Cagney încurajase și alți actori tineri pentru care a găsit roluri în două filme din 1956). Mai târziu a jucat rolul fiului personajului lui Cagney în Man of a Thousand Faces.
Smith a semnat cu Columbia Pictures în 1957 și a făcut câteva filme, apoi s-a mutat la Warner Bros. în 1958. La 16 aprilie 1958, Smith a apărut alături de Charles Bickford în „The Daniel Barrister Story” în emisiunea Wagon Train de la NBC. Cea mai mare expunere a sa în film a fost rolul adultului Patrick Dennis din „Auntie Mame”, cu Rosalind Russell.
Rolul său de televiziune emblematic a fost detectivul particular Jeff Spencer în „77 Sunset Strip”. 951 Smith a apărut în 74 de episoade ale serialului Warner Bros. Datorită popularității sale în serial, Warner Bros. a lansat un album LP al lui Smith intitulat, Beach Romance la Warner Bros. Records WS 1305, în iunie 1959. A părăsit popularul program ABC în 1962 din cauza unui cheag de sânge în creier. Și-a revenit în urma unei intervenții chirurgicale.
Până a obținut un rol într-un alt serial de televiziune, Smith a declarat că a trebuit să „lupte pentru a reveni dintr-un punct în care aproape mă hotărâsem să renunț la actorie”. A jucat apoi în rolul locotenentului Douglas Roberts în Mister Roberts, un serial de comedie-dramă difuzat de NBC-TV în 1965-1966.
A produs două filme cu Allan Carr, The First Time (1969) și C.C. and Company (1970), pe care le-a și scris.
Sănătatea sa a scăzut, iar în 1980, potrivit soției Ann-Margret, a fost diagnosticat cu miastenia gravis, o boală neuromusculară.
Starea sa a intrat în remisie în 1985. După ce s-a retras de pe scenă, a gestionat cariera soției sale și a produs spectacolele ei populare de pe scena din Las Vegas. Într-un interviu acordat ziarului New York Post, Ann-Margret a declarat că a avut boala Parkinson. A apărut rar la televiziune după ce sănătatea sa s-a deteriorat, deși a participat la emisiunea This Is Your Life, când gazda Ralph Edwards i-a dedicat un episod lui Ann-Margret. În plus față de aparițiile creditate mai jos, Smith a apărut în mai multe emisiuni de jocuri.
.