Viggo Brun var professor i matematikk, og beskjeftiget seg med tallteori, særlig primtallenes fordeling. Han fant igjen originalmanuskriptet til Abels såkalte parisavhandling.
Viggo Brun var yngst av ti søsken. Hans far, som var offiser, ble 1888 stasjonert på Oscarsborg festning, og kjøpte da gården Tverkjegla ved Drøbak, så Viggo Brun vokste opp der. Foreldrene døde tidlig, og de to eldste søstrene overtok ansvaret for familien. De maktet å skaffe søsknene en god oppvekst.
Brun tok examen artium 1903 og matematisk-naturvitenskapelig embetseksamen 1909. Våren 1910 var han på egen bekostning i Göttingen, og skrev der sin første matematiske avhandling, Ein Satz über Irrationalität. Den skaffet ham et universitetsstipend, og 1915 et reisestipend, som han etter planen skulle ha brukt i Paris. På grunn av krigen søkte han om å få bruke det i Drøbak i stedet, og bodde der til 1920. 1920–23 vikarierte han som professor i anvendt matematikk i Kristiania, og 1923 ble han professor i matematikk ved Norges Tekniske høiskole. 1946 etterfulgte han Carl Størmer som professor i matematikk i Oslo. Han ble pensjonert i 1956, men var faglig aktiv livet ut; hans siste arbeid ble skrevet 1977.
Brun var tallteoretiker, og ifølge Atle Selbergs minnetale i vitenskapsakademiet 1979 "en av de mest egenartede og dypt originale begavelser vårt land har fostret". Brun hadde liten sans for samtidens matematikk, det var i klassisk gresk matematikk og hos mestrene fra 1600- og 1700-tallet han fant sin inspirasjon. Det fascinerte ham at mange tallteoretiske problemer er så enkle å formulere, og likevel så vanskelige å behandle. Hans største prestasjon var at han ut fra en 2000 år gammel oppskrift, kalt Eratosthenes' såld, som “siler” primtallene fra de andre naturlige tallene, klarte å skape et slagkraftig redskap. En av prøvesteinene var Goldbachs hypotese fra 1742, som sier at ethvert partall kan skrives som sum av to primtall. Hypotesen er fortsatt ikke bevist, trass i at den har stått som en utfordring i mer enn 250 år. Brun viste i 1919 at ethvert partall kan skrives som sum av to tall med høyst ni primfaktorer hver. Viktigere enn resultatet er at hans såldmetode åpnet muligheter til å angripe problemer som man tidligere mente det var umulig å komme noen vei med. Ifølge Atle Selberg er den en av de mest originale nyskapninger i 1900-tallets matematikk. Den er senere bygd ut og variert i mange retninger, bl.a. av russiske matematikere og av Selberg.
Parallelt med primtallteorien arbeidet Brun med andre emner fra tallteori og kombinatorikk, særlig med kjedebrøk, som han generaliserte til flere dimensjoner. Også de tar utgangspunkt i kjente klassiske problemer, og viser den samme originale blandingen av kombinatoriske og geometriske ideer. Som pensjonist arbeidet han mest med historiske og geometriske emner. Bl.a. skrev han to populærvitenskapelige bøker, Regnekunsten i det gamle Norge og Alt er tall, og han studerte geometrien i mønstrene på overflaten av pollenkorn og viruspartikler.
1952 oppsporet han i Firenze det forsvunne manuskriptet til Abels berømte parisavhandling, og fikk det hjem til Universitetsbiblioteket i Oslo.
Bruns undervisning var klar og enkel, han fikk frem de grunnleggende ideene og anskuelige bildene. Tyngre formelle utregninger unngikk han der det var mulig. I formen var han nøktern, men en tørr humor kunne bryte igjennom. En flate som populært kalles sadelflaten introduserte han med det gode råd “Tenk på en hest som er dyppet ned i vann!”.
1914 giftet han seg med Hedvig Bassøe. Hun var da alvorlig syk, og døde to uker etter bryllupet. Han giftet seg igjen 1940, med Laura Michelsen, som var 17 år yngre enn ham. Da Brun ble ansatt i Oslo 1946, flyttet de til Tverkjegla, der Laura Brun fortsatt bor (1999).
Brun hadde sterke pasifistiske sympatier, og engasjerte seg for å hjelpe jødiske matematikere som måtte flykte fra Tyskland i 1930-årene, og norske kolleger som var arrestert under okkupasjonen. Under EF-striden i 1972 gikk han, 87 år gammel, i demonstrasjonstog mot tilslutning.
Viggo Brun var æresdoktor ved universitetet i Hamburg, og han var medlem av vitenskapsakademiene i Helsinki, Uppsala og Oslo. Det sistnevnte tildelte ham Fridtjof Nansens belønning 1939. Han var preses i Vitenskapsselskapet i Trondheim 1945–46, og det tildelte ham sin Gunnerus-medalje 1958. Han var æresmedlem i Norsk Matematisk Forening.