Anderson werd in 1902 geboren in Philadelphia, Pennsylvania. Ze begon al op jonge leeftijd in de kerk te zingen en toonde veel talent. Ze studeerde muziek aan de Philadelphia Musical Academy en later aan de Juilliard School in New York City. In 1925 maakte ze haar professionele debuut in New York City.
Anderson's carrière was vanaf het begin succesvol. Ze toerde door de Verenigde Staten en Europa en trad op in enkele van 's werelds meest prestigieuze concertzalen. Ze nam ook verschillende albums op en verscheen in verschillende films.
Ondanks haar succes werd Anderson gedurende haar hele carrière geconfronteerd met aanzienlijke rassendiscriminatie. Vanwege haar ras werd haar vaak de kans ontzegd om op bepaalde locaties op te treden. In 1939 zou ze optreden in Constitution Hall in Washington, D.C., maar de Daughters of the American Revolution (DAR), die eigenaar was van de zaal, weigerden haar te laten optreden vanwege haar ras. Deze beslissing leidde tot nationale verontwaardiging en Anderson gaf uiteindelijk een concert op de trappen van het Lincoln Memorial.
Anderson's concert in het Lincoln Memorial was een belangrijk keerpunt in de burgerrechtenbeweging. Het hielp de nationale aandacht te vestigen op de kwestie van rassenscheiding en inspireerde mensen om voor gelijke rechten te strijden. Anderson bleef haar hele leven optreden en ze werd een symbool van hoop en moed voor Afro-Amerikanen.
Anderson ontving voor haar werk talloze onderscheidingen en onderscheidingen, waaronder de Presidential Medal of Freedom, de hoogste burgerlijke onderscheiding in de Verenigde Staten. Zij stierf in Portland, Oregon, in 1993.