Točno podrijetlo pjesme nije sigurno, ali se uvelike pripisuje škotskom pjesniku Robertu Burnsu. Međutim, postoje različite varijacije stihova, što sugerira da su ga različiti izvođači mijenjali i prilagođavali tijekom godina.
Jedna teorija sugerira da je pjesma nastala iz starije narodne balade pod nazivom "Vodeni grob", koja datira iz 17. stoljeća. Melodija i neki tekstovi pjesme "When You and I Were Young, Maggie" dijele sličnosti s pjesmom "The Watery Grave".
Druga teorija povezuje pjesmu s poznatim škotskim odmetnikom po imenu James Macpherson, koji je bio aktivan u kasnom 18. stoljeću. Rečeno je da je Macpherson, također poznat kao "Gentleman Jamie", imao ljubavnicu po imenu Maggie koja se izgubila na moru, što ga je nadahnulo da napiše pjesmu.
Bez obzira na svoje točno podrijetlo, "When You and I Were Young, Maggie" stekla je ogromnu popularnost u Škotskoj i na kraju postala široko priznata i omiljena narodna pjesma. Snimili su je brojni umjetnici, uključujući folk pjevače poput The Clancy Brothers i Tommyja Makema, kao i popularne glazbenike poput Judy Collins i Joan Baez.
Trajna privlačnost pjesme leži u njezinim dirljivim i nostalgičnim tekstovima koji evociraju osjećaj čežnje za jednostavnošću i bezbrižnim danima mladosti. Bilježi gorko-slatke emocije ponovnog susreta s prošlom ljubavi i razmišljanja o zajedničkim iskustvima i sjećanjima.
S vremenom je "When You and I Were Young, Maggie" nadišao svoje škotske korijene i postao bezvremenski klasik u području narodne glazbe i tradicionalnih pjesama. I dalje se izvodi, obrađuje i cijeni publika diljem svijeta.