Peter Voss var en av stifterne av den kjente Aars og Voss' skole i Kristiania og øvde stor innflytelse på utviklingen av det norske skolesystemet i annen halvdel av 1800-tallet. Han arbeidet for sammenheng i skoleverket, fra grunntrinnet til universitetet, og gjennom bedre lærerutdanning, fornyelse av arbeidsmetoder, elevaktivitet og likestilling ville han styrke kvaliteten i skolen.
Som prestesønn fikk Voss sin oppvekst på ulike steder i landet, bl.a. i Vega på Helgeland og Tysnes i Sunnhordland. Inntil han som 13-åring ble elev ved katedralskolen i Bergen, hadde faren vært hans eneste lærer. Allerede to år senere (1852) begynte Peter selv som lærer – ved byens “søndagsskole”. Han likte å undervise, og etter examen artium 1854 gav han opp sin plan om å bli journalist. Nå var det lærer han ville bli. I to år (1856–58) var han huslærer hos sognepresten i Østre Moland, H. G. Magelssen, hans senere svigerfar. Året etter var han lærer ved Nissens skole i Christiania, og 1859–63 hadde han fast arbeid ved Schreiners (senere Gjertsens) skole. I mellomtiden studerte han filologi ved universitetet i Christiania og avla adjunkt-(cand.mag.-)eksamen 1861.
Sammen med sin studiekamerat Jonathan Aars startet Peter Voss 1863 Aars og Voss's Latin- og Realskole i Christiania. Det første skoleåret hadde den ca. 100 elever. Under ledelse av de to 26-åringene ble denne skolen etter hvert et flaggskip for pedagogisk nytenkning og praktiske reformer; en tid var den også Nordens største skole i sitt slag. Den fikk eksamensrett for middelskolen 1873 og rett til å avholde examen artium 1884.
De to bestyrerne var av natur nokså ulike, men utfylte hverandre. Som klassiskfilologer med lang og allsidig erfaring fra undervisning var de på samme linje. Etter hvert fattet Voss mer interesse for levende språk, særlig undervisning i tysk. Flere av hans metodiske planer samt lære- og lesebøker ble tilpasset opplæringen også i nabolandenes skoler. Fornyelse av norskopplæringen førte til forslag om en tilnærmet “norrønlinje” i den høyere skole, mange år før den ble til virkelighet.
Med erfaringer ved egen skole og ideer fra omfattende studier og ulike kontakter kom Peter Voss stadig med forslag om nye tiltak for å høyne nivået på skolens tilbud og pedagogiske innhold. Han nådde frem med forslag om egen “forsøksparagraf” (§ 10) i lov om høyere skoler (1896). Sammen med praktisk reformarbeid ble dette forløperen for senere organisert forsøks- og utviklingsarbeid i skolen, jf. Forsøksrådet for skoleverket (opprettet 1954).
Voss ivret sterkt for at lærerne måtte få større mulighet for å styrke sin pedagogiske grunnutdanning. Han sørget for dyktige lærere til sin egen skole og gav dem konkret veiledning, han arbeidet for reform av lærerutdanningen og etterutdanning gjennom en lærerhøyskole (1880), og han ville ha pedagogikk inn i universitetsutdanningen og opprette egen øvingsskole. Han var også den første som arbeidet for en særskilt lavere embetseksamen for middelskolens lærere.
Lik og felles opplæring for jenter og gutter var også en av Peter Voss' hjertesaker. For ham var dette en konsekvens av sosial rettferdighet og i tråd med tanker han hadde møtt i samtiden, ikke minst fra amerikansk hold. Enhetsskolen, der skoleslagene måtte bygge på hverandre, så han også som et ledd i en demokratisk samfunnsutvikling. Som medlem av skolekommisjonen av 1890 og en meget aktiv skoledebattant øvde Voss stor innflytelse på utformingen av den viktige 1896-loven for den høyere skole.
Et vektig talerør for sine pedagogiske tanker hadde Peter Voss også i tidsskriftet Vor ungdom, som han grunnla 1879 sammen med den danske politikeren Herman Trier. Her presenterte og begrunnet han pedagogiske ideer og reformforslag. Sin sosialpolitiske interesse markerte Voss bl.a. ved å delta i det kulturelle arbeidet i arbeiderforeningene i Kristiania. 1881–84 satt han i styret for Kristiania vestre Arbejdersamfund.
Voss var diplommedlem av det pedagogiske selskapet Comenius-Gesellschaft fra 1891. Han ble utnevnt til ridder av 1. klasse av St. Olavs Orden 1892.
Peter Voss ledet Aars og Voss skole også etter partneren Aars' død 1908 til han selv døde 1909. Skolen ble overtatt av kommunen 1918 og nedlagt 1969.