Leopold werd geboren in Augsburg, Duitsland, en studeerde muziek aan de Benedictijnse Universiteit van Salzburg. Na voltooiing van zijn studie werd hij violist in het hoforkest van de prins-aartsbisschop van Salzburg. In 1747 trouwde hij met Anna Maria Pertl, en het echtpaar kreeg zeven kinderen, van wie Wolfgang Amadeus de jongste was.
Leopold was een strenge maar liefdevolle vader en leraar. Hij begon Wolfgang op jonge leeftijd muziek te leren, en Wolfgang toonde al snel een wonderbaarlijk talent. Leopold nam Wolfgang en zijn oudere zus Maria Anna mee op verschillende concerttournees door Europa, en ze hadden groot succes.
In 1763 werd Leopold benoemd tot hofcomponist van de prins-aartsbisschop van Salzburg. Dit was een prestigieuze functie en het gaf Leopold de kans een breed scala aan muziek te componeren, waaronder opera's, symfonieën en kamermuziek. Leopold bleef muziek componeren en lesgeven tot aan zijn dood in 1787.
Tegenwoordig wordt Leopold herinnerd als een van de meest invloedrijke muziekleraren aller tijden. Hij was een meester op de viool en ontwikkelde een aantal lesmethoden die nog steeds worden gebruikt. Leopolds lesmethoden waren gebaseerd op zijn overtuiging dat muziek zowel plezierig als leerzaam moest zijn. Hij moedigde zijn studenten aan om ijverig te oefenen, maar hij zorgde er ook voor dat ze plezier hadden in het leren van muziek.
Leopold had een grote invloed op de muzikale ontwikkeling van Wolfgang Amadeus Mozart. Wolfgang leerde veel van zijn vader, en hij groeide uit tot een van de grootste componisten aller tijden. Leopolds nalatenschap leeft voort door zijn muziek en zijn lesmethoden. Hij is een inspiratie voor muzikanten en docenten over de hele wereld.