Adolf Schirmer er mest kjent for Nasjonalgalleriets midtbygning (Skulpturmuseet), delvis utført i samarbeid med faren. Blant hans mest kjente byggearbeider for øvrig er Sparebanken og Privatbanken i Trondheim, Ullevål sykehus, avd. I og Tollboden i Kristiania. I perioden 1887–1920 var han statens bygningsinspektør og departementets konsulent i byggesaker.
Schirmer fikk sin første opplæring ved farens arkitektkontor og ved Den kgl. Tegneskole, frihånds- og modellklassen under Julius Middelthun. Etter et opphold i Tyskland sommeren 1870 var han ansatt hos stadskonduktør Georg Andreas Bull i Christiania 1871–72, men fortsatte deretter utdannelsen ved Bauakademie i Berlin og École des Beaux-Arts i Paris til 1874. Etter gjennomført utdannelse drev han egen arkitektpraksis i Kristiania til 1886.
Schirmers første kjente arbeid ble et lite enetasjes stabbur ved Ths. Heftyes landsted Frognerseteren fra 1868. Det er et tidlig eksempel på nasjonalromantisk arkitektur i Norge og også et resultat av byggherrens særlige kulturhistoriske interesser.
Hans mest fremtredende byggeoppgave ble Skulpturmuseet i Kristiania, nå midtpartiet i Nasjonalgalleriet, som han overtok da faren ikke kom overens med byggekomiteen. Museet stod ferdig 1881. Nyrenessansestilens rundbuer og materialbruken med rød tegl og omramninger og detaljer i sandstein regnes å være fra farens siste prosjekt. Sønnens bearbeidelser synes imidlertid å være knyttet til attikaen med tettsittende lysåpninger og den strammere forenkling av byggvolumet, uten farens kuppelkonstruksjon. Form og stiluttrykk ble respektert under arkitekt I. O. Hiorths utvidelser 1905–07 og 1918–24. Bygget ble tildelt Houens fonds diplom 1926.
Samlet sett er bygningens stil et viktig eksempel på historismens sammensmelting med nyromanske stildrag og tidlig renessanse. Rundbuestilen ble senere mye brukt i mer private og villamessige byrom. Bruken av granitt i sokkelen gir tyngde til hele byggverket. Publikum ledes inn til en stor trappehall som i store palasser og teaterbygg. Det dreier seg her om en offentlig arkitektur med en viss behersket måtehold og nøkternhet, som samtidig var nyttig for den kulturelle oppdragergjerningen. Skulpturmuseet føyer seg slik inn i kretsen av de institusjonsbygg som bl.a. Statens Håndverk- og Kunstindustriskole (SHKS) senere ble en del av. Likeledes fikk akademier og de høyere skoler en monumental arkitektur, bygd i murstein med mange pryddetaljer. Det generelle måtehold i offentlige byggeoppgaver kom således til å bli den rådende holdning i historismens sluttfase.
Trondhjems Sparebank (1879–82) i fransk nyrenessanse er et tidlig eksempel i norsk 1800-tallsarkitektur på bruk av hugd stein, kvartssandstein, over hele fasaden. Privatbanken i Trondhjem ble etter en redusert plan oppført som en rektangulær enetasjes bygning, hvor den ene kortsiden ble hovedinngang med et monumentalt utformet vindu.
1887 ble Schirmer statens bygningsinspektør med ansvar for oppbyggingen av de statlige institusjonene. Han gjorde et stort arbeid utover hele landet som departementenes konsulent ved offentlige byggeoppgaver – kirker, skoler og statlige bygninger. Som en naturlig følge av dette fikk han ofte en vesentlig del av ansvaret for bygningenes utforming. Dette førte til at han også selv leverte tegningene til byggverkene. Ved de større statlige byggeoppgaver fikk Schirmer ofte ansvar for regulering og forprosjektering.
Schirmer var jurymedlem i mange av samtidens største arkitektkonkurranser og et meget aktivt medlem av Norsk Ingeniør- og Arkitektforening. Som anerkjent fagmann ble han medlem av kommisjonen for den tekniske undervisning og av flere kommisjoner for regulerings- og bygningsspørsmål. Han ble utnevnt til ridder av Dannebrogordenen 1888 og av St. Olavs Orden 1896.