Começou a tocar profissionalmente em 1951. E se juntou à banda de Muddy Waters em 1954 , a amizade com Waters se estendera ao longo dos anos e a conexão com o grupo musical se deu posteriormente em diferentes momentos como o observado no concerto (Gunsmoke Blues ,Dvd) que teve participação de outros ícones do gênero como BIG MAMA THORNTON e BIG JOE TURNER.
Admirado por Jovens gaitistas por ele influenciados como foram os casos de JOHNNY DYER, WILLIAM CLARKE ,ROD PIAZZA com quem formou o grupo BACON FAT BLUES com gravações notáveis como as versões de Mississippi River Blues ,She's A Wrong Woman, I Don't Want To Go Baby entre outros sucessos.
Foi sideman de grandes nomes do estilo e além de MUDDY WATERS e BIG JOE TURNER, fez contribuições significativas ao lado de BIG MAMA THORNTON participando dos discos gravados ao vivo: The Way It Is(1969) e Jail(1975).
Notória foi sua participação também do disco clássico SUPER BLACK BLUES ao lado de OTIS SPANN ,TURNER e o grande T.BONE WALKER(1969).
Ele passou a maior parte de sua vida morando na costa oeste dos Estados Unidos.
George "Harmonica" Smith morreu em 1983, em Los Angeles , Califórnia , aos 59 anos de idade.