Ludvig Sylow bearbeidet og videreutviklet matematikerne Niels Henrik Abels og Évariste Galois' nyskapende arbeider i algebra. “Sylows satser” og “Sylowske undergrupper” er grunnbegreper i gruppeteorien. Av yrke var Sylow lærer i Halden i 40 år, deretter professor ved universitetet i Kristiania i 20 år.
Sylow vokste opp i Christiania. Faren var offiser og embetsmann, og 1848–54 var han statsråd og sjef for Armédepartementet. Han var tidlig klar over sønnens begavelse og oppmuntret ham til selvstendig arbeid. Hjemmefra hadde Ludvig lært pliktfølelse, arbeidsomhet og en altfor stor beskjedenhet, som ble en hindring for ham senere i livet. Han gikk på Christiania katedralskole og tok examen artium 1850. Deretter studerte han realfag ved universitetet og tok matematisk-naturvitenskapelig lærereksamen (cand.real.) 1856, med utmerkede karakterer. Etter eksamen underviste han et par år ved Hartvig Nissens skole. 1858 ble han utnevnt til overlærer ved Fredrikshalds lærde og realskole; det var ingen universitetsstilling i sikte.
I studietiden var Sylow blitt interessert i Abels arbeider og spesielt i et etterlatt uferdig arbeid om ligningsteori. Professor Carl Anton Bjerknes rådet ham til å studere Galois' arbeider. De er tungleste, men Sylow slet seg igjennom dem og fant at Abel hadde kjent til atskillig mer av teorien enn det han hadde rukket å skrive ut. Sylow la dette frem på et skandinavisk naturforskermøte 1860 og sendte det også til Crelles Journal i Berlin. Men redaktøren der, Leopold Kronecker, hadde selv funnet de samme resultatene og godtok ikke at Abel hadde vært før ham. Artikkelen ble refusert, men ettertiden har gitt Sylow rett.
En tid så det ut til at universitetet ville satse på ham. Han fikk stipend for studier i Paris og Berlin 1861–62, og året etter var han vikar for professor Ole Jacob Broch, som var valgt til Stortinget. Da foreleste han, som en av de første i Europa, om Galois' arbeider; en av tilhørerne var den unge Sophus Lie. Men så stoppet karrieren opp. Da Broch igjen ble stortingsmann 1865 og 1868 og ville ha Sylow som vikar, nektet skolen å gi ham permisjon og fikk støtte fra departementet. Og da Broch ble statsråd 1869, og alle regnet med at Sylow skulle overta hans professorat i ren matematikk, ble i stedet professoren i anvendt matematikk, Bjerknes, presset til å flytte over i Brochs stilling, så Cato Guldberg kunne overta den anvendte matematikken. En sterk gruppe ved universitetet ville ha mer praktisk nyttig, jordnær matematikk; Sylow var for teoretisk. Sylow “hadde aldri opplevet en større overraskelse” og – må vi anta – heller ikke en større skuffelse.
Som lærer var han ikke vellykket. Det var matematikken, ikke pedagogikken som interesserte ham, og han hadde vansker med disiplinen i klassene. Tross skuffelsen arbeidet han videre med matematikk i kveldstimer og ferier, og da den franske matematikeren Camille Jordans standardverk Théorie des Substitutions kom ut 1870, var Sylow kjent med det meste som stod der og mer til. Da Jordan besøkte Christiania 1872, tok Sophus Lie ham og Sylow med på en utflukt til Frognerseteren, og Sylow beskrev det som nå heter “Sylows satser”, som han da hadde kjent et par års tid. Jordan var forbauset og noe skeptisk, men kort etter skrev han begeistret fra Sverige, og han hjalp til med å få den 11 sider lange avhandlingen publisert samme år. Den gjorde Sylow til en europeisk kjent matematiker.
Samme år fikk Sylow og Lie i oppdrag å besørge en ny utgave av Niels Henrik Abels samlede verker, bekostet av staten. Arbeidet tok 8 år, og Sylow hadde permisjon fra skolen i fire av dem. Lie understreket at det var Sylow som hadde gjort det aller meste av arbeidet.
Tross isolasjonen i Halden var Sylow et aktivt medlem av matematikerverdenen. Han skrev i alt ca. 25 matematiske og biografiske arbeider, brevvekslet med mange av tidens ledende matematikere og var en dyktig medredaktør i Acta Mathematica fra tidsskriftet startet 1882. Han var medlem av Videnskabs-Selskabet i Christiania (nå Det Norske Videnskaps-Akademi) fra 1868, korresponderende medlem av vitenskapsakademiet i Göttingen, og 1894 ble han æresdoktor ved Københavns universitet.
I Norge var Sylow lenge nesten ukjent. Først da han 1897, 65 år gammel, søkte avskjed fra sin lærerstilling, ble det etter initiativ fra Sophus Lie opprettet et ekstraordinært professorat for ham (med lønn som overlærer – 3000 kroner i året, en ordinær professor fikk 6000). I den stillingen arbeidet han med omhu og iver frem til sin død 1918.
Nekrologene omtaler Sylows jernflid, rettferdighetssans og nøkterne omdømme, hans vinnende vesen og lune humor. Han var en ivrig friluftsmann og tilbrakte sommerferiene på fjellet, gjerne på Kongsvoll, hvor han studerte plantelivet.