Ole Wilhelm Erichsen var født i Danmark, men slo seg ned i Norge og ble sentral i oppbygging av den norske marinen. Han var sjef for Horten Verft, hvor han bidrog til å anlegge det mekaniske verkstedet; 1848–56 var han sjef for Marinedepartementet.
Ole Wilhelm Erichsen ble opptatt ved sjøkadettkompaniet i København 1805. Da britene bombarderte København 1807, var han på opplæringstokt under kommando av kadettkompaniets berømte sjef, kommandørkaptein Hans Christian Sneedorff. Den dansk-norske flåte var beslaglagt, og det var bare en håndfull skip igjen. De eldste kadetter ble fordelt til tjeneste på disse, mens de yngste kadettene, deriblant Erichsen, ble sendt til Christiania, hvor de fortsatte sin utdanning vinteren 1807/08.
Våren 1808 inngikk Danmark-Norge en avtale med Frankrike om å bruke flåtens ledige personell til bemanning av franske linjeskip stasjonert i Vlissingen på Schelde. Ole Wilhelm Erichsen inngikk i denne kontingenten, og tjenestegjorde på linjeskipet Pultusk. Etter vel et halvt år uten at skipene ble satt inn i krigføringen, ble personellet trukket tilbake 1809.
Fra februar 1812 til januar 1814 tjenestegjorde Erichsen i Norge, og ved opprettelsen av en nasjonal norsk marine april 1814 valgte Erichsen å forbli i Norge. Han giftet seg i Kristiansand 1815. Fra 1816 hadde han permisjon for å føre et fransk koffardiskip i fart mellom Frankrike og Vestindia, men gikk i norsk tjeneste igjen 1822. Han ble da straks beordret til Stockholm som ordonnansoffiser/adjutant hos kong Karl Johan. Han talte flytende fransk og synes å ha hatt en høy stjerne hos kongen.
1824 ble Erichsen sendt til Preussen for å skaffe eiketømmer for bygging av fregatten Freia. 1826 reiste han til Storbritannia for å tilse byggingen av hjuldampskipene Constitutionen og Prinds Carl, som han førte til Norge 1827. 1833–35 var han medlem av den kommisjonen som under ledelse av grev Herman Wedel Jarlsberg utredet Marinens fremtidige organisasjon og styrke.
1836 ble Erichsen utnevnt til kaptein (kommandørkaptein av 2. klasse) og beordret som Marinens “referent”, dvs. stabsoffiseren som fremla Marinedepartementets anbefalinger for kongen. 1840 var han sjef for det nybygde hjuldampskipet Nordcap, som han seilte til Storbritannia for å installere en dampmaskin. Under reisen døde kaptein G. J. Winge som var med om bord, og det ble bestemt at liket skulle føres hjem på Nordcap. I tillegg anløp skipet også Rotterdam for å hente “de jordiske Lævninger” av grev Wedel Jarlsberg, som ble brakt til Tønsberg.
I perioden 1845–48 var Erichsen sjef for Horten Verft, hvor han i høy grad bidrog til verftets utvikling, bl.a. ved å anlegge det mekaniske verkstedet, som senere ble grunnlaget for maskinutdanningen i Horten, Norges første tekniske skole (1854).
1848–56 var Erichsen statsråd og sjef for Marinedepartementet. Ved omorganiseringen 1853 ble han i tillegg sjef for Marinekommandoen, Marinens øverste kommandomyndighet, direkte underlagt kongen.
Kaptein Ole Wilhelm Erichsen fikk avskjed i nåde 1856 og flyttet til sin gård Semb i Borre, hvor han døde 1860. Han er begravd ved Borre kirke.
Erichsen var kommandør av 1. klasse av St. Olavs Orden, ridder av 1. klasse av den svenske Svärdsorden, ridder av Dannebrogordenen og innehaver av St. Helena-medaljen (innstiftet 1858 av Napoleon 3 for deltakere i krigen mot Storbritannia). Orlogsbriggen “Statsråd Erichsen”, som var opplæringsskip i en årrekke før det ble skoleskip i Kristiania 1902–37, var oppkalt etter ham.