Howard was al op jonge leeftijd een vaudeville-artiest en speelde in verschillende stille korte onderwerpen voordat hij in 1922 samenwerkte met de oudere broer Shemp Howard en vriend Larry Fine om de Three Stooges te vormen. In 1934 werd het team getekend bij Columbia Pictures, waar ze internationale bekendheid verwierven met hun slapstick-comedy-routines.
Howard verscheen in bijna alle 190 korte films en 23 speelfilms van de Three Stooges, evenals in talloze televisieoptredens en andere projecten. Hij was de feitelijke leider en heteroman van de groep, en zijn kenmerkende bril was een essentieel onderdeel van de persoonlijkheid van zijn personage.
Buiten de Three Stooges had Howard in de jaren veertig en begin jaren vijftig een korte solocarrière, waarin hij speelde in verschillende korte onderwerpen en speelfilms. Hij was ook verschillende keren te zien in televisieshows, onder meer als gastster in I Love Lucy.
In 1955 herenigde Howard zich met Shemp en Fine voor de laatste jaren van de Three Stooges bij Columbia Pictures, en ze bleven samen optreden tot de dood van Shemp in 1955. Howard en Fine bleven als duo optreden tot eind jaren zestig, toen hun optredens steeds populairder werden. minder vaak vanwege gezondheidsproblemen en afnemende populariteit.
Howard stierf in 1975 op 77-jarige leeftijd aan longkanker. Hij wordt beschouwd als een van de meest iconische komieken aller tijden en wordt samen met Shemp en Fine erkend als een van de meest invloedrijke komische teams in de geschiedenis.