Bolin werd geboren in Sioux City, Iowa. Hij begon gitaar te spelen op zesjarige leeftijd en op 17-jarige leeftijd speelde hij professioneel in lokale bands. In 1969 sloot hij zich aan bij de band Zephyr, die twee albums uitbracht voordat ze in 1971 uit elkaar gingen. Bolin sloot zich vervolgens aan bij de James Gang, ter vervanging van Joe Walsh. Hij nam drie albums op met de band voordat hij in 1973 vertrok.
In 1975 trad Bolin toe tot Deep Purple, ter vervanging van Ritchie Blackmore. Hij nam één album op met de band, Come Taste the Band, voordat hij in 1976 vertrok. Bolin stierf op 4 december 1976 op 25-jarige leeftijd aan een overdosis drugs in Miami Beach, Florida.
Bolin was een zeer bekwame gitarist die werd beïnvloed door een breed scala aan muzikanten, waaronder Jimi Hendrix, Eric Clapton en Jeff Beck. Hij stond bekend om zijn vloeiende speelstijl en zijn vermogen om complexe melodieën en solo's te creëren. Hij was ook een getalenteerde songwriter en zanger.
De dood van Bolin was een groot verlies voor de muziekwereld. Hij was een begenadigd muzikant die het potentieel had om een van de grootste gitaristen van zijn generatie te worden.