Desmond werd geboren in San Francisco, Californië, en begon op 13-jarige leeftijd klarinet te spelen. Hij schakelde op de middelbare school over op de saxofoon en speelde in verschillende bands voordat hij in 1951 bij Brubecks kwartet kwam.
Met het Brubeck Quartet nam Desmond enkele van de meest populaire en succesvolle jazzalbums van de jaren vijftig en zestig op, waaronder "Time Out" (1959), met Desmonds compositie "Take Five".
Desmond verliet het Brubeck Quartet in 1967 en nam voor zijn dood in 1977 verschillende albums op als leider.
Desmond stond bekend om zijn coole en ingetogen speelstijl, die vaak werd vergeleken met die van Stan Getz. Hij was ook een begenadigd componist en schreef veel van de populairste nummers van het Brubeck Quartet, waaronder "Take Five", "Blue Rondo a la Turk" en "Unsquare Dance".
Desmond werd in 1991 opgenomen in de Down Beat Jazz Hall of Fame.