Wanneer de meeste mensen over oldschool hiphop praten, bedoelen ze de late jaren '70 en vroege jaren '80. De oorsprong gaat echter veel verder – helemaal naar West-Afrika. Het is ook belangrijk om de bredere hiphop-cultuur te overwegen, die de meeste in de hiphop-gemeenschap als onlosmakelijk van de muziek zien.
In West-Afrika worden de muzikanten van het Mande-volk (Mandinka) griot genoemd. De oorsprong van de term is onbekend maar dateert ten minste uit de achtste eeuw. Griot-muziek omvat het vertellen van verhalen over oude en hedendaagse gebeurtenissen op ritmische achtergrondmuziek. Historisch favoriete onderwerpen van griot-verhalen zijn de ondernemingen van oude Mande-helden. In de loop van de tijd heeft deze muziek zich wereldwijd verspreid en is het al enige tijd erg populair in Jamaïka en de Caraïben. Muziekhistorici beschouwen griot-muziek als de oorsprong van moderne hiphop.
Naast West-Afrika kan de improvisatie of freestyle-rap die veel hiphop begeleidt, ook herleid worden tot de straatpoëzie van de jaren '60 en '70. Nog duidelijker is de herleiding tot jazz en de scat-stijl die door artiesten zoals Cab Calloway en Slim Gaillard werd beoefend. Bij scat-zang werden vocals gebruikt om ritmen te creëren met willekeurige woorden en lettergrepen zonder betekenis.
De fundamenten van moderne hiphop begonnen in de vroege jaren '70 gelegd te worden. Een danser genaamd Don Campbell pionierde al in 1969 enkele dansstijlen, voordat de muziek vorm had aangenomen. Ook in deze periode begonnen tagging en de graffiti die met hiphop geassocieerd worden, in New Yorkse wijken te verschijnen. Hiphop-pioniers zoals Afrika Bambaataa en The Last Poets begonnen op te treden en de klanken te vinden die hiphop zouden worden.
In deze periode nam hiphop echt vorm. Personages als Kool Herc, vader van de hiphop, Grandmaster Caz en Grandmaster Flash introduceerden draaitafels, mixen en scratchen met oude R&B- en funkplaten. Hiphop-pioniers begonnen op huisfesten, blokfeesten en in parken te spelen. Deze jaren zagen ook de geboorte van MC'en, de eerste DJ-battles en freestyle-wedstrijden.
In 1978 begon de muziekindustrie voor het eerst de term 'rapmuziek' te gebruiken. Het was ook omstreeks deze tijd dat de eerste B-boy (breakdance)-truppen verschenen. 1979 zag de release van 'Rapper's Delight' van The Sugar Hill Gang, de eerste hiphop-single die de US Top 40 haalde. Aan het einde van de jaren '80 hadden de grote platenmaatschappijen begonnen te investeren in hiphop en rap, de eerste radioprogramma's gewijd aan het genre waren verschenen, en de eerste nationale en internationale hiphop-toeren waren van start gegaan. In 1981 traden The Funky 4 Plus One More op in Saturday Night Live, de eerste keer dat een hiphop-act op landelijke televisie verscheen.