Smith serviu na Reserva Naval e foi colocado no Havai com a Fleet All-Weather Training Unit-Pacific, uma unidade de treino de voo perto de Honolulu. Após um encontro casual com o actor James Cagney, ele foi encorajado a tentar uma carreira em Hollywood. (Cagney também tinha encorajado outros jovens atores para os quais ele encontrou papéis em dois filmes de 1956). Mais tarde ele interpretou o filho do personagem de Cagney em Homem de Mil Rostos.
>Smith assinou com a Columbia Pictures em 1957 e fez vários filmes, depois mudou-se para a Warner Bros. em 1958. Em 16 de abril de 1958, Smith apareceu com Charles Bickford em “The Daniel Barrister Story” no Wagon Train da NBC. Sua maior exposição cinematográfica foi o papel do adulto Patrick Dennis em Auntie Mame, com Rosalind Russell.
Sua assinatura na televisão foi o detetive particular Jeff Spencer em 77 Sunset Strip.:951 Smith apareceu em 74 episódios da série Warner Bros. Devido à sua popularidade no programa, a Warner Bros. lançou um álbum LP de Smith intitulado, Beach Romance on Warner Bros. Records WS 1305, em junho de 1959. Ele deixou o popular programa ABC em 1962 por causa de um coágulo de sangue em seu cérebro. Ele se recuperou disso após uma cirurgia.
Antes de obter um papel em outra série de televisão, Smith disse que tinha que “lutar para voltar de um ponto em que eu quase tinha decidido desistir de atuar”. Ele então estrelou como tenente Douglas Roberts em Mister Roberts, uma série de comédia e drama na NBC-TV em 1965-1966.
Produziu dois filmes com Allan Carr, The First Time (1969) e C.C. and Company (1970), que ele também escreveu.
A sua saúde diminuiu, e em 1980, segundo a esposa Ann-Margret, ele foi diagnosticado com miastenia gravis, uma doença neuromuscular.
A sua condição entrou em remissão em 1985. Após sua aposentadoria, ele gerenciou a carreira de sua esposa e produziu seus populares shows de palco em Las Vegas. Em uma entrevista ao New York Post, Ann-Margret disse que ele tinha a doença de Parkinson. Ele apareceu raramente na televisão depois que sua saúde se deteriorou, embora ele tenha participado do This Is Your Life, quando o apresentador Ralph Edwards dedicou um episódio a Ann-Margret. Além das aparições creditadas abaixo, Smith apareceu em vários programas de jogos.