Urodził się na terenie dzisiejszej Zambii, w Rodezji Północnej. Młodość spędził w Rodezji Południowej (dziś Zimbabwe), gdzie pracował jako policjant. Potem wyemigrował do Afryki Południowej, gdzie spędził największą część życia. Po studiach na Rhodes University w Grahamstown w RPA został dziennikarzem, później za namową ojca podjął pracę księgowego. Swoją pierwszą powieść, zatytułowaną Gdy poluje lew opublikował w 1964 r. Po jej sukcesie został dopiero pisarzem na pełny etat.
Spędzona w Afryce młodość stanowi inspirację wielu jego powieści. Smith mieszka obecnie w Londynie, posiada domy także w Południowej Afryce, Szwajcarii i na Malcie.