Nils Retterstøl var en av Norges betydeligste psykiatere. Som behandlende lege, sykehusadministrator, forsker, universitetslærer og forfatter har han satt dype spor etter seg og i avgjørende grad vært med på å prege tenkningen og utviklingen i norsk psykiatri siden midten av 1960-årene.
Retterstøl tok examen artium ved Nordstrand høyere skole 1943 og ble cand.med. ved Universitetet i Oslo 1950. Etter tjeneste som lege i utdannelsesstillinger ved Dikemark sykehus, Runwell Hospital ved London og psykiatrisk avdeling ved Ullevål sykehus samt privatpraksis i Enebakk kom han 1958 til Universitetets psykiatriske klinikk som reservelege. 1963 ble han amanuensis, 1965 førsteamanuensis og 1966 assisterende overlege og dosent samme sted. 1969 ble han overlege, direktør og professor i psykiatri ved Universitetet i Bergen/Neevengården sykehus (nå Sandviken sykehus). 1973 fikk han tilsvarende stilling ved Universitetet i Oslo/Gaustad sykehus, 1981 ble han sjeflege ved Gaustad, og fra 1985 til han gikk av for aldersgrensen 1994 var han avdelingsoverlege.
I avhandlingen Paranoid and Paranoiac Psychoses, som Retterstøl ble dr.med. på 1966, kartlegger han forløpet av vrangforestillingslidelser over en periode på 2–18 år gjennom personlige etterundersøkelser. Arbeidet ble senere videreført ved nye etterundersøkelser etter opptil 39 år. Arbeidet har hatt betydning også for nyere internasjonale klassifikasjonssystemer og er det mest omfattende forløpsstudium – og det med lengst observasjonstid – av disse psykoser. Han har også kartlagt forløpet og dets utslagsgivende faktorer. Forløpet var gunstigere enn antatt for pasienter innlagt for medikamentmisbruk og etter selvmordsforsøk.
Nils Retterstøl spilte en sentral rolle for utviklingen av rusmiddelomsorgen i Norge. 1969–91 drev han Informasjonsbanken for narkotikaproblemer og sendte årlig ut opptil 200 artikler om emnet. Ved de institusjoner han ledet, utviklet han egne behandlingsenheter for unge stoffmisbrukere. Hans lærebok om medikamentmisbruk utgitt 1967 kom i svensk og dansk utgave og i flere reviderte norske utgaver.
Som selvmordsforsker var Retterstøl i årene 1977–80 ordfører for den nordiske plangruppe for selvmordsforskning, nedsatt av de nordiske forskningsråd. 1983–91 var han styremedlem og president i den internasjonale selvmordsforebyggende organisasjon, International Association for Suicide Prevention (IASP). Han tok initiativet til den norske nasjonale plan for selvmordsforskning og var med å legge grunnlaget for seksjon for selvmordsforskning og forebygging ved Universitetet i Oslo. Han var den første redaktør for tidsskriftet Selvmord. Hans bok Selvmord fra 1970 utkommer stadig i reviderte utgaver og er også utgitt på engelsk, Suicide – A European Perspective.
I tiden som leder av to store universitetssykehus forestod Retterstøl store og omfattende omstruktureringsarbeider, som han har beskrevet i Det psykiatriske sykehus i omforming. Sammen med Leo Eitinger har han utgitt en lærebok i psykiatri i tre bind. Den er senere utgitt som ettbindsutgave og ble sist revidert 2003.
Retterstøl har utgitt en rekke populærvitenskaplige bøker som ledd i sitt arbeid med å avmystifisere de psykiatriske lidelser og nedbygge tabuene. I samarbeid med Per Øyvind Heradstveit gjennomførte han i 1970-årene tre psykiatriske opplysningsserier i NRK Fjernsynet. De er senere utgitt i bokform. Han ble 1978 tildelt NAVFs pris for sin populærvitenskaplige innsats.
Retterstøl har også markert seg innen rettspsykiatri. Han var medlem av Den rettsmedisinske kommisjons psykiatriske gruppe fra 1983 (formann fra 1987) og formann for hele kommisjonen 1992–97.
Nils Retterstøl har vært gjesteprofessor og gjesteforeleser ved en rekke universiteter i flere land. Han har vært medredaktør av tidsskriftene Archives for Psychiatry and Neurological Sciences, Psychopathology, Medicinsk Årbog, europeisk redaktør av Journal of Drug Issues og er medlem av en rekke redaksjonskomiteer. Fra 1983 har han vært rådsmedlem i den europeiske psykiaterorganisasjon (Association of European Psychiatrists) og er nå æresmedlem. Han er også æresmedlem av IASP og æresmedlem eller korresponderende medlem av den svenske, finske, tyske og franske psykiaterforening. Han fikk IASPs ærespris 2000.
Retterstøl ble medlem av Det Norske Videnskaps-Akademi 1972. 1970 fikk han Kongens gullmedalje ved Universitetet i Oslo og 1982 Ragnar Vogts gullmedalje. 1984 ble han utnevnt til kommandør av St. Olavs Orden.