Olaf Willums utmerket seg først og fremst som en dyktig og allsidig grafiker. I tillegg var han i 26 år en meget avholdt lærer for en hel generasjon norske grafikere.
Willums var opprinnelig utdannet som ingeniør i Tyskland og virket som turbinkonstruktør i Braunschweig fra 1908. Men etter fire år forlot han stillingen for å slå inn på en kunstnerisk løpebane. Høsten 1912 hospiterte han i Statens kunstakademis tegneklasse hos Halfdan Strøm samtidig som han begynte ved Statens Håndverks- og Kunstindustriskole (SHKS). Bare avbrutt av ett års studieopphold i København var han elev av Johan Nordhagen i skolens radérklasse 1912–15 og 1917–18. Senere studerte han i Paris, hos Basile Schoukhaeff 1927 og hos André Lhote 1931.
Som elev ved SHKS hadde Willums vist seg så dyktig som grafiker at han allerede 1919 etterfulgte Johan Nordhagen som overlærer for skolens radérklasse, en stilling han hadde helt til 1945. Som sin forgjenger la han fremfor alt vekt på håndverksmessig presisjon. Men Willums så klarere grafikkens anvendelsesmuligheter, f.eks. innen bokkunst, og han innførte bl.a. tresnitt i undervisningen.
På sine mange studiereiser mottok han impulser fra tyske, nederlandske og flamske renessansemestere, fra østasiatisk kunst og fra britisk samtidsgrafikk. Med sin sterke interesse for de grafiske teknikkers historie og for eldre tiders kultur gikk han sine egne veier, lite påvirket av samtidens idealer. Tradisjonsbundet som han var, viste han liten evne til nyskaping, men når det gjaldt håndverksmessig dyktighet, nøt han stor anseelse for sine grafiske blad i ulike teknikker innen radering, litografi og tresnitt. Hans mange raderinger favner om en vid motivkrets og er minutiøst utførte, stillfarne arbeider med en naturalistisk karakter.
Sitt mest personlige uttrykk fant Willums i tresnittene, som avspeiler hans store interesse for norsk folkediktning. I dem fikk han anvendt sine evner til det dekorative i et strengt stilisert, ornamentalt formspråk. Hans hovedverk som grafiker er tresnittene til Norske Folkevisor (1936), der alle de 36 illustrasjonene samt de mange initialer og vignetter er trykt direkte med de originale, utskårne treblokkene. Verket representerer et nybrottsarbeid i norsk bokkunst, og både for dette og for Valentin og vargridderen, som ble utgitt året etter, ble Willums premiert i Årets vakreste bøker. Som grafiker laget han en rekke ex libris, og blant hans svart/hvitt-arbeider er også mange tegninger.
De siste 25 årene av sitt liv viet Willums seg helt til maleriet. Hans tidlige arbeider var preget av hans grafiske virke, men uttrykket ble etter hvert noe friere, selv om han forble en utpreget naturalist. Hans hovedverk som maler er Draumkvædet, en serie på 7 store malerier, som han stilte ut 1958 etter mer enn 30 års studier og arbeid. Dette middelalderske visjonsdiktet var også tema i hans grafikk.
Olaf Willums var en av stifterne av Foreningen Norske Grafikere 1919, var viseformann 1919–35 og formann 1925–29. Han er representert i en rekke museer, både i Norge og i utlandet.