Toen Ogden zes jaar oud was, verhuisden zijn ouders met hem naar Indiana. Op zijn achtste begon hij met muziekles op locale muziekscholen en toen hij tien jaar oud was kon hij al zeer goed kerkmuziek lezen. Het duurde niet lang of hij kon een melodie schrijven van een lied dat hij had horen zingen of spelen. Op zijn achttiende werd hij zanger is het kerkkoor van zijn plaatselijke gemeente.
Toen de Amerikaanse burgeroorlog uitbrak, voegde Ogden zich bij de 30e Indiana Volunteer Infanterie. Tijdens die oorlog richtte hij een mannenkoor op, die goede bekendheid kreeg in de "Army of the Cumberland."
Na de oorlog keerde Ogden terug naar huis en pakte zijn muzikale studies weer op. Zijn leraren waren o.a. Lowell Mason, Thomas Hastings, E.E. Bailey en B.F. Barker, directeur van de 'Boston Music Scool'.
Op een gegeven moment waren zijn vaardigheden zo gegroeid, dat hij zijn eerste liedboek publiceerde: Silver Song, in 1870. Dit boek werd immens populair en er werden maar liefst 500.000 stuks van verkocht. Hierna publiceerde hij nog talloze liedboeken.
Buiten het componeren om, gaf Ogden nog les op verschillende scholen in Canada. In 1887 werd hij muziekhoofd in de openbare scholen van Toledo, Ohio.