Сын диакона Чудского погоста, Череповецкого уезда, Новгородской губ., он родился в 1778 г., окончил курс в С.-Петербурге, в Александро-Невской семинарии, служил в Новгороде инспектором и ректором духовной семинарии.
В Новгороде он сблизился с епископом Старорусским Евгением (Болховитиновым), впоследствии бывшим митрополитом Киевским, знаменитым ученым и историком русской Церкви.
Прослужив в Москве настоятелем Новоспасского монастыря, он был рукоположен в архиереи и назначен викарием Новгородским, а затем в 1819 г. епископом Пензенским.
Именно с этих пор, со времени назначения его на самостоятельную кафедру, выступает с особенною силою крайняя своеобразность всего существа преосвященного Амвросия.
Епархия, назначенная ему в управление, была обширных размеров, охватывая собою также и всю теперешнюю Саратовскую и части Самарской и Симбирской, и требовала многих забот, чтобы стать сколько-нибудь благоустроенною. Бедность была поразительная, архиерейский дом в развалинах, собор не достроен, ризница убога до последней степени. Бедность и неустройство духовенства полные.
Все свои силы молодой епископ отдал епархии. Его ученая деятельность прекращается.
Строгость, суровость к себе и другим: вот качества, прежде всего бросавшиеся в глаза в преосвященном Амвросии.
Сам он был образцом воздержания. В Пензе он не ел ничего кроме хлеба, воды, редьки и огурцов, великим же постом он питался одною или двумя просфорами на целую неделю.
Нестяжательность его не знала границ. Раздав все свои деньги, он отдавал затем самые нужные вещи, даже полотенца. Безусловно точный в соблюдении церковного устава, того же требовал он и от других, и в этом не знал никаких уступок.
Настойчивость его и железная сила воли были непреклонны. Его характер выражался и в его наружности. Высокий, худощавый, с большими темными глазами, светившимися умом и энергиею, с голосом громким, звучным, который возвышался до громового, — когда епископ был под влиянием сильного волнения, тогда собеседники невольно вздрагивали. Большею частью епископ был угрюм и молчалив и говорил редко. Он не хотел ничем поступиться от того убеждения, что он все остается монахом. Глубокая пропасть лежала между ним и высшим обществом Пензы; отношения сразу установились натянутые и все более и более обострялись.
В высшей степени епископ был требователен к тому, чтобы в храме стояли как следует. Не терпел он ни разговоров в церкви, ни перехода с места на место. Такие люди сейчас же подвергались при всем храме строгому выговору.
Так, однажды одна из выдающихся по положению в городе женщин стала говорить в церкви. Амвросий начал ей резко выговаривать, а когда она хотела от стыда уйти, он закричал за ней: "Куда бежишь? от гнева Божия не уйдешь".
При непреклонной правдивости и прямоте Амвросия, его отношения с губернатором стали в высшей степени натянутыми, тем более, что тот позволял себе притеснения по отношению к духовному ведомству, а Амвросий горячо отстаивал интересы церкви и духовенства.
Так как губернатор был человек не безупречный, то Амвросий, не стесняясь, в своих проповедях, даже в присутствии губернатора, обличал его действия, так что губернатор избегал ездить в собор.
Не будучи в состоянии бороться с Амвросием открыто, он начал подпольную борьбу, путем доносов и разных подвохов. Но прямодушный архиерей не последовал этому низкому примеру и действовал открыто, так что в городе, несмотря на суровость архиерея, ему сочувствовали в этой борьбе.
На духовенство Амвросий излил всю свою суровость, желая крутыми мерами поднять его на должную высоту, и получил от него прозвание Грозного.
Архиерей крепко держал в руках управление всею епархиею, у него не было ни советников, ни приближенных.
Он рассылал одно за другим точные предписания и карал неминуемо тех, кто их нарушал. Особенно он требовал от священников, чтоб они говорили народу поучения, приказывая тем, кто не умел этого делать сам, читать чужие проповеди.
Усердно объезжая епархию, Амвросий всматривался во все: ничто не ускользало от его орлиного взора. Замеченных в провинности он отсылал надолго (несколько месяцев и более) в архиерейский дом в Пензу, который при нем стал как бы исправительным приютом для духовенства.
Самою же неприятною частью наказания считались его выговоры, действительно тяжелые при его остроумии, резких выражениях и суровом, приводившем в трепет, голосе. Впрочем, у всех было то утешение, что они страдали за действительную вину, а не по наушническим наветам. И, как ни был строг Амвросий, он никого в свою жизнь не сделал несчастным; всех виновных по исправлении назначал на места. При его справедливости, заглаживавшей тяготу его суровости, его время не оставило в среде духовенства тяжелой памяти.
Последствия же этих приемов были значительны. Явились хорошие проповедники и священники, столь же преданные долгу, как и он сам.
Деятельность Амвросия как священнослужителя была выдающаяся. Он достроил и отделал кафедральный собор, завел хорошую ризницу.
Бесконечно нетребовательный в своем домашнем быту, он обставлял пышно свои частые служения.
Множество духовенства, богатство облачений, яркое освещение собора, стройность обрядов — все усиливало впечатление, производимое личностью самого архиерея.
Особенно замечательным зрелищем были его всенощные.
Тысячи свечей горели в паникадилах, и среди темноты ночи издали светились окна храма. Величавый и сосредоточенный епископ, с ликом как бы сошедшим со старинной иконы, был окружен сонмом духовенства, предстоявшим со страхом и благоговением. Он имел вид скорее ветхозаветного первосвященника, чем теперешнего епископа. Когда он выходил кадить, его сопровождала целая толпа диаконов. Одни шли попарно впереди с большими зажженными свечами, другие поддерживали его под руки, третьи заключали шествие… Он сам шел твердою поступью, медленно кадя иконам и народу. Все тихо было в церкви, точно замерло: раздавалось лишь пение, шаги архиерея, звон колокольчиков на его облачении.
Служение его было очень продолжительно и удлинилось еще более продолжительными проповедями. Иногда он служил в почти пустой церкви.
Проповеди его, говоренные всегда изустно, по суровости и дышавшему в них гневу, напоминали грозные речи пророков. Он беспощадно громил порок и недостатки общества.
В 1824 г. в Пензе провел четыре дня император Александр I. К его прибытию город наполнился приезжими лицами, которых губернатор восстановлял против архиерея, надеясь, что слухи о строптивости его дойдут до государя.
В день приезда государя, для встречи власти собрались на одном крыльце собора, а Амвросий направился к другим боковым дверям, которые находил более величественными, и, ответив на просьбы властей — перейти к другим дверям, что распоряжения в соборе принадлежат ему как архиерею, — остался у них один без властей и встретил государя краткою и сильною речью. Ведя его по собору, он останавливался у икон, коротко назначал, сколько государь должен положить поклонов. Может быть, он надеялся навлечь на себя неудовольствие государя, чтобы быть уволенным от управления епархиею, которое его очень тяготило. Но он, несмотря ни на что, произвел на государя впечатление человека хотя сурового, но справедливого.
Государь не один раз был у него и подолгу с ним беседовал. Между прочим, он советовал государю отказаться от бала, предложенного дворянством, так как он не одобрял этих увеселений. Государь говорил ему об его строгости к духовенству и сказал, что во время проезда его чрез Пензенскую губернию, ему подано на него множество жалоб.
— Государь, — ответил ему епископ, — на тебя подали бы еще больше жалоб, если бы было кому жаловаться.
Потом, указав на свою панагию с изображением на ней распятого Христа, он промолвил: "Он ли не был свят, а и Его обвинили и распяли".
После шестилетнего пребывания в Пензе, Амвросий подал прошение в св. синод об увольнении на покой, выставляя на вид желание свое подготовить новое дополненное издание "Истории российской Иерархии". На самом же деле он мечтал лишь о строгом монашеском уединении, так как, отправляясь из Пензы, отослал в св. синод все документы, забранные оттуда для дополнения своего труда, и исправленный печатный экземпляр истории.