唱歌の成立に欠かすことのできない教育者。長野県の高遠町（たかとおまち）の出身。
幕末の慶応年間にすでに洋楽を学び、明治５年に大学南校を卒業、文部省へ入った。明治８年から11年までは師範学科を学ぶためにアメリカへ留学、この時に、感覚的に洋楽が呑み込めずに散々に苦労したという話は有名である。
明治12（1879）年、唱歌の作成・編さんと教師の養成機関である「音楽取調掛（おんがくとりしらべかかり）」が文部省に設置され、初代所長となる。その後、音楽教育の師であったメイソンを招き、明治14年に日本初の官製唱歌集『
小学唱歌集』を完成させた。
東京音楽学校（現・東京芸大）の初代校長を務めたのち、貴族院議員にもなった。
作曲には「
皇御国（すめらみくに）」などがある。有名な「蝶々」は、彼が留学時代に作詞した「唱歌第１号」とされているが、彼が愛知県師範学校の校長だった時（留学以前）に、同校の教師だった野村秋足（あきたり）に作詞を命じたものとも言われている。
