Свети Јаков беше родом из Ростовске области. Рано се замонашио, и због свог подвижничког живота изабран и постављен за епископа Ростовског при митрополиту Пимену и великом кнезу Димитрију Јоановичу Донском. Али он епископом ростовским беше мало, и напусти престо са следећег разлога.

Једна жена би ухваћена у греху. Ростовски кнез и бојари осудише је на смрт. У својој невољи она прибеже к ногама ростовског архипастира Јакова, молећи га да је спасе од смрти. Свети Јаков се сажали на њу, по угледу на благог Господа Христа који не осуди доведену преда Њ блудницу, не предаде жену осуђену на смрт да се изврши смртна казна над њом, него јој одреди нарочито место за покајање до краја њеног живота. Због оваког поступка кнез ростовски и грађани разљутише се на светог Јакова и отераше свог доброг пастира са престола.

Удаљујући се из града, свети Јаков дође на обалу Ростовског језера, скиде са себе своју архијерејску мантију, положи је на воду, прекрсти се, стаде на њу и крену језером. И прешавши тако око два километра изван града, светитељ изађе на обалу на оном месту где се сада налази Јаковљевски манастир.

Ово необично чудо запрепасти кнеза и народ. Свима би јасно да су неправично поступили са својим архијерејем. Зато га молише да им опрости грехе, и са сузама га преклињаху да се врати на свој архијерејски престо. Незлобив и кротак, светитељ им опрости тешки грех њихов, али одлучно одби да се врати на архијерејски престо.

Крај језера, на самом месту где свети Јаков изиђе на обалу, он подиже једну колибу и живљаше у њој. И почеше се поштоваоци светога Јакова, којих бејаше много, скупљати око њега, да би живели поред њега под његовим духовним руководством. Зато он подиже келије за братију, а затим и цркву у име зачећа свете Ане. У том манастиру свети Јаков сконча и дане земаљског живота свог.

У време епископовања светог Јакова у Ростову појави се јеретик, по имену Маркијан, који учаше да се не треба клањати светим иконама, називајући их идолима. Притом сејаше он и друге безбожне мисли. Својом красноречивошћу и књишком ученошћу он привуче на себе пажњу ростовскога кнеза, бојара и народа. Међутим светитељ ростовски Јаков, у присуству кнеза и народа, одржа с јеретиком јавну препирку, и обелодани и изобличи лаж његовог учења, тако да јеретик са стидом напусти Ростов.

Чесне мошти светог Јакова почивају у манастиру њиме основаном, који се у част њега као оснивача назива Јаковљевски.