De naam kwam van een 1968 opmerking van The Who's drummer Keith Moon. Tijdens een VS-tour met The New Yardbirds (Jimmy Page's na-Yardbirds groep), grapte Moon dat het project "would go down like a lead zeppelin" (d.w.z. een loodballon – een ramp).
Page onthield het. Manager Peter Grant stelde voor de 'a' in "lead" weg te laten om verkeerde uitspraak ("leed" vs "led") te voorkomen. Led Zeppelin was geboren – symboliserend zwaar (lead) maar zwevend (zeppelin), perfect hun geluid vangend.