Hij werd geboren op 10 juni 1952 in Jacksonville, Florida, en begon op jonge leeftijd gitaar te spelen. In 1971 sloot hij zich aan bij de band Molly Hatchet uit Jacksonville en toerde met hen tot 1980.
Nadat hij Molly Hatchet had verlaten, richtte McKinney de band Andy McKinney and the Road Hawgs op, die in de jaren tachtig twee albums uitbrachten.
Hij heeft ook gewerkt als sessiemuzikant en verscheen op albums van artiesten als Gregg Allman en Dickey Betts.
De afgelopen jaren woonde McKinney in Jacksonville, Florida, en blijft af en toe muziek spelen.