Sousa werd geboren in Washington, D.C. in 1854. Hij begon op jonge leeftijd muziek te studeren en toonde veel talent. Hij sloot zich in 1872 aan bij de United States Marine Band en klom snel door de gelederen. In 1880 was hij dirigent van de band.
Sousa leidde de Marinierskapel 35 jaar lang, gedurende welke tijd hij veel van zijn beroemdste marsen componeerde, waaronder "The Stars and Stripes Forever" en "Semper Fidelis." Hij schreef ook verschillende operettes en andere werken.
Sousa ging in 1929 met pensioen bij de Marinierskapel, maar hij bleef muziek componeren tot aan zijn dood in 1932. Zijn muziek wordt nog steeds uitgevoerd door bands en orkesten over de hele wereld en hij wordt beschouwd als een van de grootste kapelmeesters aller tijden.