Olaf Holtedahl var geolog og den siste av en generasjon som behersket faget i hele sin bredde. Han leverte betydelige bidrag, ikke bare for Norge, men også for store områder i Arktis og Antarktis. I tillegg til sin vitenskapelige innsats var han en fremragende formidler som skrev oversiktsverker over Norges geologi og mange populærvitenskapelige bøker og artikler.
Holtedahl vokste opp på Nordstrand i Aker og ble student fra Otto Anderssens skole i Kristiania 1903. Etter examen artium studerte han realfag og ble den første som etter innføringen av den nye ordningen for realeksamen valgte geologi hovedfag med paleontologi og stratigrafi som spesialitet. Han hadde studieopphold i Tyskland, Russland og Yale-universitetet i USA og tok doktorgraden 1913. Etter å ha vært universitetsstipendiat, dosent og statsgeolog ble han 1920 prosessor i historisk geologi ved universitetet i Kristiania, senere professor i geologi.
Holtedahl hadde en enorm vitenskapelig og populærvitenskapelig produksjon, som strakk seg over et tidsspenn på 67 år. Han gav ut sitt første vitenskapelige arbeid allerede som student 1907 – en beskrivelse av et lite felt ved Øyeren, bevart ved innsynkning langs bruddsoner i eldre berggrunn. Som hovedoppgave valgte han en detaljert undersøkelse av den øverste delen av den ordoviciske lagrekken ved Mjøsa (Studien über die Etage 4 des norwegischen Silursystems beim Mjøsen, 1909). Han deltok i de norske Spitsbergen-ekspedisjonene 1909, 1910 og 1911 og la frem noen av resultatene i et paleontologisk-stratigrafisk arbeid (Zur Kentniss der Karbonablagerungen des westlischen Spitsbergens II), som gav ham doktorgraden 1913.
1921 ledet Holtedahl en slitsom forskningsferd til Novaja Zemlja, den gang et nærmest ukjent område. 1927–31 var han med på å organisere Lars Christensens Antarktis-ekspedisjoner, der han selv deltok med fartøyet Norvegia til bl.a. South Georgia, South Shetland og Graham Land. Han overtok og beskrev også materiale samlet på Sverdrups annen Fram-ferd, etter at den lovende geologen Per Schei så alt for tidlig hadde gått bort. Da Holtedahl arbeidet med finansieringen av ekspedisjonen til Novaja Zemlja, fikk han god støtte av Fridtjof Nansen, som uttalte til en avis: “Jeg minnes intet tilfelle hvor en mann er gått bedre rustet til en forskningsferd enn han.”
Opplevelsene i polstrøkene gav Holtedahl god bakgrunn for studier av avleiringene fra istiden i Norge. 1924 gav han ut et stort og nå klassisk arbeid om hvordan isbreen trakk seg tilbake over Østlandet (Studier over isrand-terrassene syd for de store østlandske sjøer). Han så også at kystområdene langs østkysten av Grønland og norskekysten hadde felles trekk og viste at de geologisk gamle fastlandsblokkene var skilt ved forkastninger fra unge sedimentære avleiringer utenfor kysten. Hans dybdekarter viste at grensen var markert ved dyprenner, gravd ut av isbreene. I så måte ble Olaf Holtedahl en pioner i undersøkelsen av kontinentalsokkelen, et arbeid som ble ført videre av hans sønn Hans Holtedahl.
Olaf Holtedahl har gitt ut samlede oversikter over Norges geologi, sammenfattet regionale kart og har skrevet en rekke populærvitenskapelige bøker og lærebøker som har kommet i mange opplag. Hans 1128 siders store bok Norges geologi fra 1953 ble endog oversatt til russisk.
Under krigen var Holtedahl formann i Professorforeningen, som sammen med 42 andre organisasjoner 15. mai 1941 rettet en protest til Reichskommissar Terboven mot den måten landet ble styrt på. Reaksjonen lot ikke vente på seg: Alle formennene ble innkalt og gitt en streng irettesettelse – noen ble arrestert og de øvrige truet med avsettelse.
Olaf Holtedahl ble kommandør av St. Olavs Orden 1951, og han var ridder av den svenske Nordstjärneorden og innehaver av Kongens fortjenstmedalje i gull. Fagkolleger æret ham med Andrée-medaljen, Wollaston-medaljen, Leopold von Buch-medaljen og Gunnerusmedaljen. Holtedahl var Fellow of Royal Society og medlem i over 20 andre utenlandske vitenskapelige selskaper.
Holtedahl hadde drevet planmessig trening som idrettsmann i studiedagene, og han ble tildelt Norske Studenters Idrettsforbunds hederstegn i gull for sitt arbeid for studentidretten. Hans egne studenter kreerte ham til Storhøvding i studentforeningen Gæa, der han møtte trofast opp og var et naturlig og populært midtpunkt både ved foredragsmøter og fester.