Ilvosen vanhemmat olivat siltavouti Karl Joel Ilvonen ja Katarina Karjalainen ja puoliso vuodesta 1875 Alma Kristina Hällström (k. 1936). Ilvonen tuli ylioppilaaksi 1866, suoritti teologian erotutkinnon 1867 ja vihittiin papiksi 1869. Pastoraalitutkinnon hän suoritti 1877 ja uudisti sen 1885. Ilvonen sai varapastorin arvon 1881. Hän oli ensin Liperin kappalaisen apulainen ja sitten vuodesta 1875 Juuan pitäjänapulainen ja Pielisjärven vt. kirkkoherra. Hämeenkyrön kirkkoherraksi hän tuli 1890 ja oli Tyrvään rovastikunnan lääninrovasti vuodesta 1893. Ilvonen oli pappissäädyn edustaja valtiopäivillä 1888 ja 1897.[1][2][3]
Kirjallisuudentutkija Eero Ilvonen oli Johan Henrik Ilvosen poika.[4]
Johan Henrik Ilvonen, pappi ja kansanvalistaja, 1996. Mika Tapiolinna, Helsingin yliopisto, Suomen ja Skandinavian kirkkohistorian pro gradu -tutkielma