Nils Hertzberg var pioneren for kroppsøvingsfaget i norsk skole. Som bestyrer for lærerseminaret på Hamar 1867–73 og lærer for teologistudentene gjennom en årrekke fremstod han som en romslig, konservativ kristen. Han var statsråd i Kirkedepartementet i de siste årene før innføringen av parlamentarismen 1884.
Hertzberg vokste opp i Hardanger, men flyttet som 9-åring til Bergen, hvor han 1841 ble opptatt som elev ved Katedralskolen. I de trange kår etter farens død støttet han familiens økonomi ved å gi privatundervisning, og etter examen artium 1846 og som teologisk student virket han i over et år som huslærer og senere som lærer ved en pikeskole i Christiania og manuduktør i norsk til artium. Han ble cand.theol. 1851, og fra 1853 var han lærer på Krigsskolen inntil han 1860 ble annenlærer ved Asker seminar.
Som ivrig friluftsmann var Hertzberg bekymret over den virkning det stillesittende liv på skolebenken hadde på elevene. Med permisjon tok han 1865 et kurs ved Den gymnastiske centralskole og overtok deretter undervisningen i kroppsøving ved seminaret. Han fikk innredet et skur til gymnastikksal, anskaffet apparater, sørget for lån av rifler og eksersisgevær, og arrangerte lengre utmarsjer. På hans initiativ satte Centralforeningen for Udbredelse af Legemsøvelser og Vaabenbrug i gang instruksjonskurs for lærere. Med statsstipend studerte Hertzberg 1866–67 lærerutdannelse i utlandet, og i den nye lærerplanen for seminarene ble gymnastikk opptatt som nytt fag.
1867 tiltrådte Hertzberg som bestyrer for det nye lærerseminaret på Hamar. Her kom han snart i strid med de grundtvigske teorier som rådet på Herman Ankers og Olaus Arvesens folkehøyskole på Sagatun. Særlig mislikte han avvisningen av det allmenneuropeiske kulturgrunnlag og andre folks historie, språk og litteratur. Grundtvigs nasjonal-religiøse syn var ham også fremmed: Bare kristendommen kunne oppdra og lutre individualiteten, og “udrense urene og selvgode Elementer” av fedrelandskjærligheten. Han hadde heller ikke noen tro på følelser og stemninger som pedagogiske virkemidler; for ham var den solide kunnskapstilegnelse det eneste som gav virkelig nytte. Skolen var for Hertzberg en viktig samfunnsinstitusjon, og da han 1873 ble utnevnt til ekspedisjonssjef i Kirkedepartementets skoleavdeling, la han stor kraft i å utvikle et fastere alternativ i de nye amtsskolene.
Hertzberg ble utnevnt til kirkeminister i Selmers regjering 1882, og sammen med de øvrige statsråder ble han stilt for Riksretten 1884. Siden han var trådt inn etter at sanksjonsnektelsen i statsrådssaken var avgitt, kunne han bare tiltales for de to sekundære punkter i anklagen. For disse ble han dømt og bøtlagt, men da han ikke ble dømt til embetsfortapelse, fortsatte han som statsråd også i Schweigaards “aprilministerium”. Hertzberg var stortingsrepresentant for Kristiania og medlem av kirkekomiteen 1886–91. Her bekjempet han Sverdrups forslag til ny lov om folkeskolen, som han særlig kritiserte for svekkelsen av båndet mellom skole og kirke, kommunenes enerådighet over læreransettelser og språket i lærebøkene, og de økonomiske byrder som utvidelsen av skoleplikten ville legge på kommunene.
1869 grunnla Hertzberg Norsk Skoletidende, og fra 1880-årene av utgav han en rekke bøker og mindre skrifter om religiøse spørsmål, pedagogikk og barneoppdragelse, skolespørsmål og litterære og politiske emner. Her fremstår han som en levende og romslig, konservativ kristen, og en typisk representant for tidens sosialt bevisste konservatisme. Han hadde fra barndommen bevart stor sans for den folkelige kultur, og i språksaken var han en varm tilhenger av folkemålets berikelse av riksmålet. Tross pinaktig økonomi – sin lille pensjon som statsråd supplerte han med beskjedne inntekter fra foredragsvirksomhet og arbeidet som lærer ved universitetets praktisk-teologiske seminar og kasserer for Akershus stifts geistlige enkekasse – bevarte han sitt lyse sinn. Han var skattet som en freidig og humørfylt taler både på folkemøter og i selskapelig samvær.
Nils Hertzberg var medlem av Det Kongelige Norske Videnskabers Selskab fra 1883, og han var æresmedlem av Centralforeningen for Udbredelse af Legemsøvelser og Vaabenbrug og Foreningen til Dyrenes Beskyttelse. Han ble utnevnt til ridder av St. Olavs Orden 1877 og fikk kommandørkorset av 1. klasse 1893.