Olsson werd geboren in Wallasey, Cheshire, Engeland. Hij begon met drummen op 12-jarige leeftijd en speelde in verschillende lokale bands voordat hij in 1970 bij de band van John kwam. Sindsdien heeft hij op alle studioalbums van John gespeeld en ook uitgebreid met hem getourd.
Naast zijn werk met John speelde Olsson ook drums voor andere artiesten, waaronder George Harrison, Ringo Starr en Stevie Wonder. Hij heeft ook twee soloalbums uitgebracht, "Nigel Olsson" (1975) en "Move the Universe" (1980).
Olsson wordt beschouwd als een van de beste drummers in de rock-'n-roll. Hij staat bekend om zijn solide tijdwaarneming, zijn krachtige drumwerk en zijn vermogen om op te gaan in de andere instrumenten in de band. Hij is opgenomen in de Modern Drummer Hall of Fame en de Rock and Roll Hall of Fame.