Van 1961 tot 1987 brachten Gladys Knight and the Pips 25 albums uit, wonnen vier Grammy's en zeven American Music Awards. In 1996 werd de groep in de Rock and Roll Hall of Fame opgenomen. De groep werd ook in de Vocal Group Hall of Fame geïnducteerd in 2001 en in de Apollo Theater's Hall of Fame in 2006. Gedurende hun legendarische carrière hebben fans consistent één vraag gesteld: Hoe kreeg de band zijn naam?
Gladys Knight and the Pips werden in 1953 in Atlanta, Georgia, opgericht. Zolang het R&B-act optrad, was Gladys Knight de leadzangeres. Ze had diverse achtergrondzangers door de jaren heen, veloerwaren familie. De langstbestaande bezetting van de Pips omvatte Gladys' broer, Merald "Bubba" Knight en hun nichten, William Guest en Edward Patten.
De groep werd een jaar opgericht nadat Gladys in 1952 Ted Mack's Original Amateur Hour-wedstrijd op televisie won. Ze was toen maar zeven jaar oud. De oorspronkelijke bezetting bestond uit Gladys, haar broer Bubba, haar zus Brenda, en hun nichten, Eleanor en William Guest.
De groepsnaam, "The Pips", werd ontleend aan een andere nicht, James Woods, wiens bijnaam Pip was.
In 1959 begon de groep met touren en toen werden Brenda en Eleanor vervangen door twee andere nichten, Edward Patten en Langston George.
The Pips hadden hun eerste hit in 1961 met een cover van "Every Beat of My Heart", oorspronkelijk opgenomen door Hank Ballard and The Midnighters. Het nummer werd oorspronkelijk verkocht aan Vee-Jay Records in Atlanta, waar de groep uit de winst van het nummer werd gehouden. Kort daarna nam de groep het nummer opnieuw op voor producent Bobby Robinson en het bereikte nr. 1 in de R&B-charts en nr. 6 in de popcharts.
Na het succes van hun eerste hitsingle verliet Langston George de groep. De overgebleven leden gingen zich voortaan noemen als Gladys Knight and the Pips. Na hun volgende hit, "Letter Full of Tears", in 1962, verliet Gladys de groep om een gezin te beginnen met haar man, James Newman. Zonder Gladys toerde de groep weer door als The Pips. In 1964 keerde Gladys terug in de bezetting en met de hulp van choreograaf Cholly Atkins werd de groep herkend voor hun gepolijste live-optredens en dansroutines.
Gladys Knight and the Pips hadden een kleine hit in 1964 met "Giving Up", maar pas toen ze in 1966 tekenden bij Motown, begonnen ze wijdverspreid succes te ervaren. Terwijl ze bij Motown waren, brachten ze een reeks Top 40-hits uit, waaronder "Everybody Needs Love", "I Heard It Through The Grapevine", "The Nitty Gritty", "Friendship Train" en "If I Were Your Woman".
De grootste hit van de groep bij Motown was in 1972 met "Neither One of Us (Wants To Be The First To Say Goodbye)". Het nummer bereikte nr. 1 in de R&B-charts en nr. 2 in de popcharts. Het leverde Gladys Knight and the Pips hun eerste Grammy Award op voor Best Pop Vocal Performance by a Duo, Group or Chorus.
In 1973 verlieten Gladys Knight and the Pips Motown en tekenden bij Buddah Records. In de vroege tot mid-jaren '70 stegen ze tot bekentheid met hun hits "I've Got to Use My Imagination", "Best Thing That Ever Happened to Me" en "Midnight Train to Georgia". Het laatste werd hun eerste en enige nr. 1 pop-hit en won de Grammy voor Best R&B Performance by a Duo or Group With Vocals in 1973.
In 1975 kreeg de groep hun eigen een-uurs varietyshow op NBC getiteld "The Gladys Knight and the Pips Show". Het was een mid-season replacement en liep maar vier afleveringen.
Terwijl de groep door de jaren '80 succesvol bleef, dwong juridische problemen met Buddah Records Gladys Knight om apart van The Pips op te nemen en op te treden. Tussen 1978 en 1980 brachten zowel Knight als The Pips elk twee losse albums uit. Ook in 1980 herenigde de groep zich toen zowel Knight als The Pips tekenden bij Columbia Records. Hun eerste release onder die vlag was het album "About Love".
In 1987 brachten Gladys Knight and the Pips hun laatste studio-album uit, getiteld "All Our Love" op MCA Records. Het album had een nr. 1-hit met "Love Overboard", wat de band ook een Grammy opleverde voor Best R&B Performance by a Duo or Group with Vocals. In 1988 werd de groep erkend met een Soul Train Music Award voor Career Achievement.
Na hun tour in 1988 besloten de Pips dat het tijd was om met pensioen te gaan, terwijl Knight een solocarrière voortzette.