Јован Максимовић родио се 4. јуна 1896. године у Русији, у Харковској губернији у месташцу Адамовски. Потицао је из племићке породице, а његов отац Борис Максимовић био је српског порекла. Породица Максимовић избегла је у 18. веку у Русију пред најездом турских освајача. Српски језик у кући нису запоставили. Јован је на крштењу добио име Михаило, док му је Јован касније монашко име. Осим њега још један члан породице Максимовић проглашен је за светитеља, био је то свети Јован Тоболски, сибирски мисионар.Jош као дечак Михаило Максимовић разликовао се од остале деце: тешко је говорио, мало је јео, није волео гимнастику ни плес. Његова француска дадиља прешла је, под дечаковим утицајем, у православље. Kао осамнаестогодишњак Михаило је завршио Полтавски кадетски корпус и уписао се на Правни факултет на харковском Царском универзитету где је дипломирао четири године касније. Кад је у Русији избила револуција, официр Максимовић је кренуо у рат на страни цара борећи се против бољшевика. Рањен је у десну ногу и због тога је до краја живота остао хром.
У време грађанског рата у Русији са породицом је дошао у Србију. Живећи као избеглица у оскудици бивши племић зарађивао је за живот своје породице продајући дневне новине, између осталих и „Политику". Овог необичног и сиромашног продавца новина сви су добро знали у Београду по томе што је и зими и лети ишао бос. Свакога јутра кренуо би прво у Патријаршију да тамо службеницима прода новине. Нико од њих није знао да је племић аскета, вредни продавац новина већ завршио два факултета. У Београду је потом уписао и 1925. године завршио Теолошки факултет. У руској цркви у Београду га је владика Антоније, поглавар Руске заграничне цркве, произвео у чин чтеца. Замонашио се у Миљковом манастиру код Свилајнца 1925. године узевши име Јован, према свом претку Јовану Тоболском. Свети синод Српске православне цркве поставио га је 1929. године за суплента Богословије у Охридској епархији у Битољу. Охридском епархијом тада је управљао владика Николај Велимировић.
Ђаци Богословије приметили су да отац Јован једе мало, и то само једном дневно, да се никада не љути и никада не спава, већ проводи ноћи клечећи пред иконом. Од дана свог монашког пострига па до смрти, никада није спавао у постељи. Пошто никада није спавао, дешавало се да га за време часа ипак ухвати сан. У Битољу се убрзо прочуо као добротвор и доброчинитељ. Отац Јован Максимовић посебно је поштовао светог Наума охридског јер је имао моћ исцељења душевно оболелих. Управо са иконом светог Наума обилазио је болнице и молио се за здравље болесника. Још из тог времена потичу приче о његовим чудотворним исцелитељским моћима.
Године 1934. постао је епископ Руске заграничне цркве и послат је у Шангај. У Шангају је основао Сиротиште светог Тихона Задонског које је удомило чак три и по хиљаде деце. Несрећне и напуштене малишане налазио је по буџацима шангајских четврти изгладнеле и болесне. Тешко су га погађале и посете душевним болесницима и за њих се посебно молио. Сачувана су многобројна сведочанства некадашњих смртно болесних људи којима је Јован Шангајски помогао. Руси су, после доласка комуниста на власт у Кини, поново кренули у изгнанство. Епископ Јован био је с њима. Свети синод Руске заграничне цркве поставио је владику Јована 1951. године за архиепископа западноевропског. Дошао је у Париз. Служио је свету литургију на француском и холандском, баш као својевремено на грчком, црквенословенском, кинеском, или касније енглеском. Свети синод преместио је потом Јована Максимовића у Сан Франциско да би помагао завршетак градње тамошње велике Саборне цркве посвећене Пресвета Богородици. У Сан Франциско стигао је у јесен 1962. године.
Док је службовао у Паризу, називали су га Јованом Босим јер је често ишао бос. Није се обувао јер су му ноге стално биле отечене будући да га готово нико никада није видео да лежи и одмара се. Последње четири деценије свога живота није имао уобичајени сан, одлучио се на подвиг ноћног бдења не спуштајући се никада на кревет. Његов узор у томе био је свети архиепископ Мелентије Леонтович чије су мошти почивале у Успењској цркви у Харкову и који је узео на себе молитвени подвиг борбе са сном проводећи ноћи непомично стојећи руку подигнутих увис и никада не лежући у кревет.
У Николајевској цркви у Сијетлу 2. јула 1966. године (19. јуна по старом календару) служио је Литургију. По свом обичају, после службе остао је у олтару још три сата. Онда је отишао у парохијски дом и ту се упокојио. На дан смрти пратио је чудотворну икону Пресвете Богородице („Курскаја - Коренаја").Пред њом се и упокојио. О себи је написао следеће: "Откад знам за себе, желео сам да служим правди и истини. Моји родитељи разгорели су у мени непоколебљиву тежњу да се борим за истину, а душа се моја усхићивала примерима оних који су жртвовали свој живот за њу."
За светитеља је проглашен (канонизован) 2. јула 1994. од стране Руске заграничне православне цркве у Сан Франциску, Калифорнија.