De exacte oorsprong van het lied is onzeker, maar het wordt algemeen toegeschreven aan de Schotse dichter Robert Burns. Er zijn echter verschillende variaties op de tekst, wat erop wijst dat deze door de jaren heen door verschillende artiesten is gewijzigd en aangepast.
Eén theorie suggereert dat het lied afkomstig is van een oudere folkballad genaamd "The Watery Grave", die dateert uit de 17e eeuw. De melodie en enkele teksten van "When You and I Were Young, Maggie" vertonen overeenkomsten met "The Watery Grave".
Een andere theorie koppelt het lied aan een beroemde Schotse outlaw genaamd James Macpherson, die actief was aan het einde van de 18e eeuw. Er wordt gezegd dat Macpherson, ook wel bekend als "Gentleman Jamie", een minnaar had genaamd Maggie die verdwaald was op zee, wat hem inspireerde om het lied te schrijven.
Ongeacht de precieze oorsprong kreeg "When You and I Were Young, Maggie" een enorme populariteit in Schotland en werd het uiteindelijk een algemeen erkend en geliefd volksliedje. Het is opgenomen door talloze artiesten, waaronder folkzangers als The Clancy Brothers en Tommy Makem, maar ook door populaire muzikanten als Judy Collins en Joan Baez.
De blijvende aantrekkingskracht van het nummer ligt in de aangrijpende en nostalgische teksten die een gevoel van verlangen oproepen naar de eenvoud en zorgeloze jeugddagen. Het legt de bitterzoete emoties vast van de hereniging met een liefde uit het verleden en het reflecteren op gedeelde ervaringen en herinneringen.
In de loop van de tijd heeft "When You and I Were Young, Maggie" zijn Schotse roots overstegen en is het een tijdloze klassieker geworden op het gebied van volksmuziek en traditionele liederen. Het wordt nog steeds uitgevoerd, gecoverd en gewaardeerd door een publiek over de hele wereld.