Со стороны прокуратуры Москвы следствие курировал заместитель прокурора столицы, оперативной работой руководил заместитель начальника МУРа Анатолий Егоров. Но хотя следственная группа подобралась толковая и грамотная, вычислить преступников по горячим следам тогда не удалось. Между тем на группу постоянно давили, и кое-кто готов был арестовать кого угодно, лишь бы достичь каких-то результатов. Под подозрение таких спецов попала даже внучка Холостяковых, которая, по их мнению, подозрительным образом умудрилась не услышать, как в квартире убивали ее родных деда и бабушку. Таким людям и в голову не приходила мысль, что только это и спасло ее от неминуемой гибели. Ведь Г. Калинин, прикончив двух людей сразу, не остановился бы и перед убийством третьего человека.
Однако следствие явно топталось на месте. Версия об убийстве с целью похищения орденов как-то не укладывалась в голове. Гораздо ближе было, например, предположение о том, что Холостякова убил кто-то из его старых фронтовых товарищей, быть может, затаивший на него старую обиду. Поэтому стали работать в этом направлении и выяснили: в 1937 году по ложному обвинению Г. Холостяков был арестован органами НКВД. Сыщики затребовали из архива дела НКВД по Хабаровскому краю и узнали, кто именно оклеветал Холостякова. Но и эта ниточка оборвалась, так как того человека давно уже не было в живых.
Не помог и дневник Холостяковых, в котором они довольно подробно описывали наиболее важные события своей жизни. К сожалению, упоминания о двух "студентах-журналистах из МГУ" в этом дневнике не было. А единственный человек, который видел Калининых в квартире вице-адмирала почти накануне убийства - писатель Николай Ланин, - из Москвы на время уехал, и следствие не стало его беспокоить.
Пока следователи отрабатывали одну версию за другой, Калинины продолжали свое преступное ремесло, колеся в качестве "журналистов" по городам Советского Союза. Их коллекция пополнялась все новыми и новыми орденами и медалями. А многие пострадавшие даже и не думали обращаться в милицию, считая это делом безнадежным.
Наконец в Москве сыщики вплотную занялись версией о том, что убийство Холостяковых было совершено исключительно из-за орденов. На их столе появились все уголовные дела, хоть каким-то образом похожие на это. Кропотливо изучая каждое, следователи вскоре вышли на имя главаря одной из шаек, промышлявшей скупкой орденов. В его коллекции и "засветился" вскоре орден, который Калинины похитили на заре своей преступной деятельности у одной учительницы из Иванова. К этому времени сыщики уже напали и на след банды Тарасенко, однако им нужны были реальные подтверждения своих догадок. Поэтому главарь шайки, имевший на руках орден, украденный у учительницы, был срочно доставлен в Москву и после двух дней основательных допросов сознался в том, что он знает Калининых, работавших под "журналистов".
В октябре 1983 года, через три месяца после убийства Холостяковых, Калинины были арестованы. Почти год длилось следствие. Наконец состоялся суд, который вынес приговор: Г. Калинин приговаривался к высшей мере наказания - расстрелу. И. Калинина получила 15 лет тюрьмы.