Hivatalosan James Alfred Wight néven született 1916-ban az angliai Sunderlandben. Írói álnevét egy bizonyos skót futball játékosról, Jim Herriottól kölcsönözte, aki a Birmingham City játékosa volt. Huszonhárom évesen végzett a Glasgow Veterinary College-ben, mint állatorvos. Egy vidéki angol kisvárosban, Thirskben telepedett le és kezdte meg hivatását. 

Több mint húsz év orvosi gyakorlat után, felesége unszolására állt neki, hogy ötvenévesen megírja első regényét, amely rögtön nagy siker lett. Gerald Durrel és David Attenborough mellett ő lett a harmadik brit szerző, aki állatos történeteivel belopta magát az emberek szívébe. Kiváló érzékkel vegyítette a könnyed, humoros anekdotákat és a szívfacsaró esetek leírását.

Leghíresebb műve, mely Állatorvosi pályám kezdetén… címmel jelent meg 1972-ben, azóta is töretlen népszerűségnek örvend. II. Erzsébet is a rajongója volt, a királynőbevallotta neki, hogy övé volt az egyetlen könyv, amelyen többször is hangosan felnevetett. Thirskben található háza jelenleg múzeumként üzemel.

1980-ban felhagyott a praktizálással, két évre rá felvették a Brit Királyi Állatorvosi Társaság a tagjai közé. 1991-ben rákot diagnosztizáltak nála. Négy évvel később hunyt el otthonában 78 évesen. Tiszteletére gyászmisét tartottak a yorki székesegyházban melyen több mint kétezer ember vett részt.