Ole Landmark drev privat arkitektpraksis i Bergen i nesten 50 år og regnes som den sterkeste representant for den retning som lot seg inspirere av nordisk renessanse i kombinasjon med lokale, vestlandske tradisjoner.
Landmark vokste opp i Bergen. Etter skolegang i hjembyen og examen artium ved katedralskolen i Trondheim 1906 gjennomgikk han arkitektavdelingen ved Trondhjems tekniske Læreanstalt med eksamen 1909. Han arbeidet deretter som assistent hos arkitektene Schak Bull og E. O. Schou i Bergen, før han opprettet egen praksis 1910. Han var dessuten lærer ved Bergens kunsthåndverksskole 1911–14. Sammen med Georg Greve utarbeidet han planer og fasader for deler av brannområdet etter bybrannen i Bergen 1916.
I likhet med flere andre samtidige bergensarkitekter – Frederik Konow Lund, Egill Reimers, Per Grieg og Kristian Bjerknes – skapte Landmark en svært selvstendig og personlig arkitektur. Selv om han mottok sine betydeligste byggeoppgaver i Bergen og byens nære omland, hadde han også sitt virkefelt andre steder på Vestlandet, i Trøndelag og på Østlandet. I utlandet tegnet han bl.a. et rådhus nær Peronne i Frankrike og sjømannskirken i Hamburg. Han fikk rosende omtale for sin arkitektur i samtiden og oppnådde flere priser både i Norge og internasjonalt.
Selv om Landmark fulgte samtidens hovedstrømmer, lå det bak hans uttrykksform sterke impulser fra det skapende arkitektmiljøet i Bergen og den vestlandske byggetradisjon, både når det gjaldt bygningens hovedform, materialbehandlingen og de håndverksmessige detaljløsninger. Slik kom han selv til å bli en av de fremste representanter for den såkalte bergenske stil, som bygger på og viderefører den lokale byggeskikk. Til å begynne med hentet han sin inspirasjon i tidligere stilepoker fra renessansen frem til empiren. Etter hvert endret han stil og anvendte funksjonalismens grunnideer og form, men bare når oppgavene krevde det. Dette er tilfellet f.eks. i Forum kino på Kronstad og Bergens Kunstforening ved Lille Lungegårdsvann. Fordi Landmarks arkitektur i det store og hele forble knyttet til vestlandsk byggetradisjon, utviklet han også et bevisst forhold til samspillet mellom bygning og terreng, hvor han sjelden tillot større inngrep i det naturskapte miljø. I tillegg stilte han strenge krav i utformingen fra detalj til helhet i sin arkitektur. Dette gjaldt også materialutvalg og den håndverksmessige utførelse.
Et av hans hovedverker er galleribygningen for Rasmus Meyers Samlinger (1924), som i både form og materialbruk har fått en tillempet karakter av bypalé. Med en streng disponering av bygningsvolumene skapte han et byggverk med monumental og vakker plassering ved Lille Lungegårdsvann midt i Bergen sentrum. Den nyklassisistiske stil og symmetriske disposisjon gir en forenklet massevirkning, samtidig som bygningen har en verdig og stilfull terrassert hovedentré, forsterket gjennom de fremstående sidefløyene. I pakt med den internasjonale jugendstil er førsteetasjens blokkaktige form myket opp i kontrast til overlyssalenes sammenhengende vindusbånd og takets røde pannesten. Vestibylens søylebårne kryssvelv har rikt utformede kleberstenskapiteler, og renessansesalen er anlagt med kassettak og furugulv i regelmessig mønster. De stiliserte historiske motiver, hugget i klebersten, bidrar til en detaljrikdom som naturlig føyer seg til den arkitektoniske rammen omkring kunstsamlingen.
Ole Landmark var også aktiv i organisasjonslivet, bl.a. som formann i Bergen arkitektforening, Bergens Husflidsforening og styret for Bergens kvinnelige industriskole. Han ble utnevnt til ridder av 1. klasse av St. Olavs Orden 1955 og hadde flere utenlandske ordener og utmerkelser.