Trygve Nagell var en internasjonalt anerkjent matematiker og professor ved Uppsala Universitet 1931–62. Han var meget produktiv og utgav en rekke matematiske avhandlinger.
Nagell tok examen artium på reallinjen ved Kristiania katedralskole 1914 og begynte å studere realfag ved universitetet. Han ble cand.real. 1920, og 1926 forsvarte han sin doktoravhandling i matematikk ved Universitet i Oslo. Han var universitetsstipendiat 1921–28 og ble utnevnt til dosent i matematikk ved Universitetet i Oslo 1930, men ble allerede året etter utnevnt til professor i matematikk ved Uppsala Universitet i Sverige, en stilling han virket i til han i gikk av for aldersgrensen 1962.
Trygve Nagell var en meget produktiv vitenskapsmann og utgav i alt 132 matematiske avhandlinger, det første allerede 1917 mens han ennå studerte. Han arbeidet for det meste innenfor den grenen av matematikk som kalles tallteori, og han interesserte seg spesielt for en spesiell type ligninger som går under navnet diofantiske ligninger. Det er ligninger i en eller flere ukjente med heltallige koeffisienter, og man søker kun løsninger av dem som også er hele tall.
Nagell er mest kjent for sine resultater om diofantiske tredjegradsligninger med to ukjente. Hans doktorarbeid førte frem til en fullstendig løsning av en stor klasse slike ligninger.
En slik tredjegradsligning med to ukjente definerer en kurve i planet som man kaller en elliptisk kurve, og det å bestemme heltallige løsninger av ligningen er essensielt det samme som å finne punkter på kurven med rasjonale koordinater. Nagell viste at ligningen for en slik kurve, om den i det hele tatt har et punkt med rasjonale koordinater, kunne bringes på en forenklet standardform, noe som gjør analysen av eventuelt andre løsninger lettere. Denne standardformen er i dag et viktig hjelpemiddel for alle som arbeider med elliptiske kurver.
Nagell brukte denne standardformen til å finne sterke føringer på koordinatene til såkalte punkter av endelig orden og brukte dette til å gi en delvis beskrivelse av hvilke torsjonsgrupper en slik kurve kan ha – den fullstendige beskrivelsen ble gitt av amerikaneren Barry Mazur 1978.
Under den annen verdenskrig ble Nagell av regjeringen i London utnevnt til formann i Undersvisningsrådet for norsk skolevesen utenfor Norge, et verv han hadde fra 1942 frem til krigens slutt. Han tok også del i undervisningen av norsk ungdom som hadde flyktet til Sverige.
Trygve Nagell ble medlem av Det Norske Videnskaps-Akademi 1925, av Det Kongelige Norske Videnskabers Selskab 1952 og av Kungliga Vetenskapsakademien i Stockholm 1943. Han ble æresdoktor ved Uppsala Universitet 1956. Nagell fikk Haakon VIIs Frihetskors 1947, ble utnevnt til kommandør av St. Olavs Orden 1951 og av den svenske Nordstjärneorden 1952.