Smith est né à Charleston, en Caroline du Sud. Il a commencé à voyager avec des spectacles de médecine quand il était jeune et a rejoint Vaudeville, où il s’est produit avec Elmer Bowman et Jimmy Durante. Il a également écrit de la musique pour Bert Williams. Smith est décédé à New York le 4 octobre 1949.