Sven Nielsen var i 1930-årene Høyres fremste målbærer i kampen for å styrke forsvaret. Han var konsultativ statsråd 1940–45.
Nielsen tok examen artium på latinlinjen ved Kongsgård skole i Stavanger 1902. Etter forberedende prøver ved universitetet gjennomgikk han Krigsskolen og ble arbeidsløs løytnant 1906. Han var et par år i Amerika, og tilbake i Norge 1908 ble han lærer ved underoffisersskolen i Harstad, senere regimentsintendant (1911) og kaptein og kompanisjef ved Nord-Hålogaland infanteriregiment (1915). Han vikarierte også som overlærer ved Narvik høyere almenskole. 1916 gikk han over i forsikringsvirksomhet, fra 1917 som direktør i Kysten A/S i Harstad. I disse årene var han mye brukt i private og kommunale oppdrag, og 1923–25 var han ordfører i Harstad.
1925 kom han tilbake til fødebyen som direktør for Stavanger Nye Sjøforsikringsselskab, og 1933 ble han innvalgt på Stortinget. Her kom han i utenrikskomiteen, hvor han ble C. J. Hambros mann i forsvarspolitikken. Han så tidlig at krigsskyene samlet seg over Europa, og avviste et “etiketteforsvar” som noe det ikke var verd å spandere penger på: Norsk nøytralitet ville ikke være reell hvis forsvaret ikke hadde maktmidler til å håndheve den. Men med Norges beliggenhet og topografi ville et slikt forsvar også ha gode sjanser til å avskrekke et direkte angrep og avvise det om det allikevel skulle komme.
Nielsen var overbevist om at en nøkkel både til en rasjonell forsvarspolitikk i fred og effektiv ledelse i krig var å opprette en stilling som forsvarssjef, og han kom stadig tilbake til dette. Regjeringen opprettet omsider stillingen under krigen i Nord-Norge 1940, og senere ble den gjenopprettet i London.
Under stortingsmøtet i Elverum 1940 bevilget Stortinget tre nye statsrådsposter, og Sven Nielsen ble utpekt som Høyres representant. Han var den eneste av de tre som sluttet seg til regjeringen. Han ble utnevnt i statsråd på Sandbu gård i Vågå 21. april 1940. Under årene i London ble han tillagt ansvaret for Statens Revisjonskontor, som normalt er Stortingets vakthund overfor regjeringen. Stillingen var ikke lett for en høyrestatsråd i en arbeiderpartiregjering, og Nielsen vantrivdes, like mye som denne virksomheten og hans opptreden som Hambros forlengede arm irriterte hans kolleger. Men han anså det som sin plikt å bli på sin post. Mars 1945 ble han utnevnt til handelsminister og medlem av regjeringsdelegasjonen som kom til Oslo allerede 13. mai 1945.
Sven Nielsen ble gjenvalgt 1945 og ved Stortingets sammentreden valgt til formann i forsvarskomiteen. Krigen hadde avblåst striden om forsvaret, men ikke uenighet om forsvarets oppgaver og organisasjon. Han kritiserte at stillingen som forsvarssjef igjen ble opphevet – først 1963 ble stillingen gjenopprettet. Ut fra beredskapshensyn gikk han imot at regjeringen oppgav sin plan om tre måneders rekruttskole for årsklassene fra krigen. Han var også uenig i den norske deltakelse i okkupasjonen av Tyskland, som han mente forsinket og vanskeliggjorde den langsiktige oppbygging av forsvaret. Men med Arbeiderpartiets rene flertall på Stortinget, og med en så sterk forsvarsminister som Jens Christian Hauge, var det ikke stort han kunne utrette.
Sven Nielsen var en arbeidsom, saklig og rakrygget mann med sterk pliktfølelse, og som komitéformann var han fast og ryddig. Han var konservativ og formell av natur, og sto fremmed overfor etterkrigstidens nye politiske former og miljø. I sin siste periode på Stortinget 1949–53 spilte han en tilbaketrukket rolle som medlem av utenrikskomiteen. Han ble utnevnt til kommandør av St. Olavs Orden 1953 og var innehaver av storkors av den islandske Falkorden og ridder av Finlands Vita Ros.