Som telegrafdirektør i årene 1892–1905 ledet Rasmussen Telegrafvesenet i en periode preget av ekspansjon og omstilling i forbindelse med at etaten tok fatt på den store oppgaven med å bygge ut et nasjonalt telefonsystem.
Rasmussen ble student fra Bergens katedralskole 1870, tok eksamen philosophicum våren 1871 og avsluttende reallærereksamen (cand.real.) ved universitetet i Christiania 1875. Etter en kort periode som lærer ved Kristiania borger- og realskole og siden adjunkt ved Kristiansands katedralskole var han 1879–92 lærer i matematikk, mekanikk og fysikk ved Sjøkrigsskolen i Horten, fra 1891 med tittel av dosent.
Faglig fattet Rasmussen tidlig interesse for det nye elektrotekniske kunnskapsområdet. Ved flere anledninger oppholdt han seg i utlandet med offentlig stipend for å gjøre seg kjent med utviklingen på elektrisitetens område, inkludert et lengre opphold ved det elektrotekniske laboratoriet ved den tekniske høyskolen i Charlottenburg (Berlin) 1888. For øvrig engasjerte han seg sterkt i lokalpolitisk virksomhet for Venstre og fungerte som ordfører de siste fire årene av sitt opphold i Horten. I tillegg til en rekke kommunale verv var han blant annet formann i Hortens krets av Norges forsvarsforening og administrasjonsdirektør for Hortens telefonselskap. Også senere engasjerte han seg politisk og var fra 1899 medlem av bystyret i Kristiania.
Da regjeringen Steen konstituerte Rasmussen i stillingen som telegrafdirektør november 1892 uten forutgående utlysning, vakte det kritikk fra konservative aviser, som mente utnevnelsen var partipolitisk motivert. Også i fortsettelsen forble han omstridt, ikke minst på grunn av et målbevisst arbeid for å bringe telefonvesenet inn under Telegrafvesenets kontroll.
Da Rasmussen tiltrådte, fantes det rundt 10 000 telefonabonnenter i Norge knyttet til om lag 80 private telefonselskaper. Utviklingen av transmisjonsteknikken omkring 1890 gjorde det mulig å telefonere over mye lengre avstander enn tidligere. Dermed fremstod telefonen i større grad som en konkurrent til telegrafen. Kort tid etter tiltredelsen ble Rasmussen utnevnt til formann for en komité som skulle utrede statens forhold til telefonvesenet. Innstillingen forelå i februar 1894. Flertallet, med Rasmussen og formannen for Stortingets jernbanekomité Jørgen Løvland i spissen, gikk inn for at staten skulle innløse de private anleggene og etablere et fullstendig statlig telemonopol. Mindretallet, Christiania Telefonselskabs direktør Knud Bryn, gikk inn for fortsatt privat drift av lokale anlegg og ville begrense statens oppgave til å drive interurbane rikstelefonlinjer.
I andre halvdel av 1890-årene ble dette spørsmålet gjenstand for en intens politisk strid, der splittelsen gikk tvers igjennom Venstre. Rasmussen og Løvland lyktes med å reise midler til å bygge ut et rikstelefonsystem mellom byene i Sør-Norge. 1899 fikk de vedtatt en lov som gav staten formell enerett til å drive telefon- og telegrafanlegg, men loven åpnet for at staten også kunne tildele konsesjon til private. Stortinget gikk med på å innløse enkelte private telefonnett, deriblant anleggene i Trondheim (1898) og Kristiania (1901), men Rasmussen fikk ikke politisk tilslutning til sin plan om en hurtig innløsning av samtlige urbane telefonnett.
Telefonen medførte at Telegrafvesenet vokste sterkt i Rasmussens direktørtid. Etatens inntekter ble omtrent tredoblet, og det samme ble antallet funksjonærer. Rasmussen satset bevisst på billig arbeidskraft i form av unge, ugifte kvinner, noe som bidrog til å gjøre telefondriften lønnsom i motsetning til telegrafen.
Under den spente situasjonen sommeren 1905 foretok Rasmussen en forsert og anstrengende reise for å inspisere telekommunikasjonene langs svenskegrensen mellom Halden og Trøndelag. Han pådrog seg lungebetennelse og døde 9. august 1905 etter kort tids sykeleie.
Jonas S. Rasmussen ble utnevnt til ridder av 1. klasse av St. Olavs Orden 1895 og til kommandør av 2. klasse 1899. Han var også innehaver av flere utenlandske ordener.