Omkring 1900 la J. O. Smith grunnlaget for menigheten som siden er kalt Den kristelige menighet (populært kalt Smiths venner), som i dag finnes i over 60 land og regner med ca. 7500 tilhengere i Norge og ca. 30 000 på verdensbasis. Innad bruker en ofte betegnelsene “menigheten” eller “vennene”.
Smith vokste opp i Fredrikstad, med unntak av årene 1878–82/83, da familien bodde i Kristiansand. Gjennom årene hadde familien tilknytning til ulike kristne konfesjonelle retninger. Smith tjenestegjorde i marinen med base i Horten fra 1889 til 1928, da han gikk av med førtidspensjon. I Horten traff han Pauline Pedersen, som han giftet seg med 1902.
Horten ble det geografiske utgangspunktet for den uorganiserte gruppen som Smith ble drivkraften i. Han knyttet sin omvendelse til 1898, ble døpt med den Hellige Ånd 1900 og fikk gavene til å tale i tunger, tyde og profetere 1907. I tiden omkring 1900 samlet han små grupper til møter i hjemmet. Broren, tannlege Aksel Smith, og marinefolkene Th. Ellefsen og Elias Aslaksen var viktige medspillere i den første tiden og utover på 1900-tallet. Aktiviteten førte etter hvert til små menighetsdannelser, først i Horten og så utover landet.
Forsamlingen rundt Smith skilte seg på flere måter ut fra tradisjonell norsk kristendom. Det ble ikke ført medlemsregistre, og de første årene så Smith på seg selv kun som forkynner og inspirator, ikke som prest eller forstander. I praksis fikk han likevel en sentral posisjon i forsamlingene, og etter som tiden gikk, ble han menighetens leder og forstander. Idealet var at hver menighet skulle fungere som et åndelig “legeme” i tråd med 1. Korinterbrev 12. Menigheten skulle bare ha ett “hode”, nemlig Kristus.
I begynnelsen følte Smith seg ensom og hevdet at andre troende ikke forstod ham. Frem til ca. 1912 hadde han likevel en viss kontakt med metodist- og pinsevennmiljøer, men deretter utviklet Smith og hans gruppe seg til noe markert annerledes enn andre kristne forsamlinger. Fra 1912 utgav brødrene Johan Oscar og Aksel Smith bladet Skjulte Skatter. Her ble menighetens grunnleggende synspunkter lansert. Et hovedpunkt er kristologien, dvs. hvordan Jesus Kristus blir oppfattet. For J. O. Smith hørte kristologi og helliggjørelse (dvs. det kristne liv) sammen. Uten en rett forståelse av Kristus kunne en heller ikke forstå det kristne liv. Smith lærte at Jesus var en syndfri sønn av Gud, men betonte Jesu menneskelighet, dvs. at han hadde “synd i kjødet”. Han ble fristet som andre, men seiret over fristelsene – og vant seg på den måten guddommelig natur. Hadde Jesus gitt etter for fristelsene, hadde han blitt syndig (fått “syndig natur”). Slik er Jesus et forbilde til alle tider: Som Jesus seiret, skal de troende ved Ånden seire og dermed vinne seg guddommelig natur. Det er kjernen i de troendes helliggjørelse.
Også Smiths oppfatning av menigheten er egenartet: Begrepet menighet er ikke primært knyttet til kirkesamfunn, men til den troendes forhold til Kristus. Siden Kristus ikke kan deles, kan heller ikke menigheten være delt i kirkesamfunn. Den ene Kristus svarer til den ene menighet. Og kjennetegnet for den rette menighet er igjen en rett forståelse av Kristus. For øvrig lærte Smith at dåp skal utføres som troendes dåp, og brødsbrytelsen (nattverden) ble oppfattet som selvprøvelse, dvs. prøve på om en lever etter Guds vilje. Kvinner skal tie i forsamlingen, det vil si de skal ikke være “lærere”, men har ellers alle rettigheter – også til å tale.
Ved J. O. Smiths død 1943 kalte Elias Aslaksen ham en reformator som fikk Luthers reformasjon i Tyskland til å virke som noe ynkelig smått.