Hoewel oorspronkelijk bedacht door Thomas Edison als hulpmiddel voor kantoordictatie of het opnemen van telefoongesprekken, leidde de fonograaf uiteindelijk tot de miljarden dollar zware opname-industrie. Veel veranderingen en evolaties zijn doorgegaan aan Edison's oorspronkelijke concept, maar het is moeilijk om een wereld te verplaatsen zonder de mogelijkheid om geluid vast te leggen en te reproduceren.
John Krusei, een ingenieur en monteur in dienst van Edison, bouwde de eerste fonograaf in iets meer dan een dag, werkend vanuit een schets en een paar notities van zijn baas. Krusei presenteerde het voltooide prototype aan Edison op 12 augustus 1877. Hij testte het door een paar regels uit het kinderrijmpje "Mary Had a Little Lamb" in de geluidsontvanger te spreken terwijl hij de handkraan draaide. Tot ieders verrassing werkte de machine perfect de eerste keer, en reproduceerde Edison's woorden helder.
De vroegste fonografen waren gemaakt van een houten basis, een handkraan, een metalen cylinder, en een combinatie geluidsontvanger/afspeelmembraan. Terwijl de gebruiker de kraan draaide, roteerde de cilinder en bewoog langzaam langs een gegolfde baan terwijl een scherpe naald licht over het oppervlak van de cilinder liep. Toen er woorden in de ontvanger gesproken werden, trilde de naald door de geluidsgolven, die een kopie van het geluid in het bekleidingsmateriaal van de cilinder graveerde. Het opnieuw aflopen van de afspeelmembraan en naald over deze gravingen een tweede keer zorgde ervoor dat de geluidsgolven hoorbaar gereproduceerd werden.
Edison's initiële testopnames gebruikten papier om de cilinder gewikkeld, maar deze opnames waren extreem fragiel en versleten na slechts een paar afspeelbeurten. Edison bereikte iets betere resultaten door over te schakelen op tinfolie, maar wasgecoate cylinders leverden de beste combinatie van duurzaamheid en klankkwaliteit. Gefrustreerd door de relatief korte opnametijd van zijn eerste cylinders - slechts twee minuten en veel te kort om de meeste nummers op te nemen - verhoogde Edison de afspeeltijd tot vier minuten door meer golven op een cilinder van dezelfde grootte te plaatsen. Als resultaat van deze verbeteringen bestaan veel Edison wascilinders vandaag nog en bieden ze zowel een indrukwekkende luisterervaring als een belangrijk historisch bewijs van die tijd.
Hoewel Edison de vroege dagen van de opname-industrie domineerde, duiken veel concurrenten op. Hoewel een aantal van deze bedrijven bleven hangen bij het cylinder-formaat dat Edison al had geïntroduceerd, gebruikten rivalen als de Victor Talking Machine Company een schijf-gebaseerd afspeelsysteem dat hogere klankkwaliteit en langere speeltijden bood. Edison reageerde snel met zijn eigen schijfformaat, de Diamond Disc. In tegenstelling tot de dunne, broze schijven van de concurrentie, waren Edison's Diamond Discs uiterst duurzaam en gebruikten een verticale naald die ongekende audioreproductie bood. Echter, Diamond Discs speelden niet op de meeste niet-Edison fonografen en Edison stak het muziekbaken op 21 oktober 1929.
Vanaf de jaren '20 ging de fonograaf een periode van snelle innovatie in. Elektrische afspeling en versterking betekenden dat lichtere naalden gebruikt konden worden, wat de levensduur van platen verlengde. Vinylplaten begonnen te verschijnen, wat een natuurlijkere toon bood. De introductie van het LP-formaat en zijn langzamere draaisnelheid betekende dat meerdere nummers op dezelfde kant van de schijf konden verschijnen. Hoewel grotendeels verdreven door de compact disc in de jaren '80 en later de MP3-speler, behoudt de fonograaf een kleine maar toegewijde aanhang.