В 20—40-х годах продолжалось дальнейшее формирование архитектурного облика некрополя, принявшего окончательный вид к весне 1947 года.
Четырехметровая статуя — рабочие у наковальни — из белого камня, воздвигнутая у Сенатской башни к 5-й годовщине Великого Октября, — символ могучей созидательной силы творцов нового мира, выпала из архитектурного ансамбля после сооружения Мавзолея Ленина и была перевезена в другое место города. Правительственная трибуна из красного кирпича, возведенная в 1922 году под стиль Кремлевской стены, уступила место монументальной ленинской усыпальнице. Не сохранились золотые буквы на древних камнях стены над братской могилой «Слава передовому отряду пролетарской революции. Слава борцам за социализм». И мемориальная доска работы Коненкова, обветшавшая от времени, в 1947 году была бережно снята и передана в один из московских музеев.
С 1925 года на Кремлевской стене вытянулась лента небольших черных квадратов с золотыми буквами. Эти мемориальные доски закрывают собой ниши, в которых установлены урны с прахом.
Осенью 1931 года в некрополе сменился «зеленый караул». Вдоль братских могил и у Мавзолея вместо «ветеранов» — лип — высадили «новобранцев» — голубые ели.
В декабре 1918 года «Известия ВЦИК «в заметке под выразительным заголовком «Доколе?» писали: «Над могилами беззаветных, подчас безвестных героев, жертв Октябрьской победы пролетариата… на Историческом музее и Спасской башне высоко и четко рисуются в воздухе… двуглавые орлы, символ царского произвола. Доколе?» К 20-й годовщине революции на Кремлевских башнях укрепили рубиновые пятиконечные звезды.: они были выполнены по эскизам художника-академика Ф. Ф. Федоровского.
В сентябре 1946 года Совет Министров СССР принял постановление о благоустройстве могил у Кремлевской стены на Красной площади.
Разработка проекта поручена была архитектору И. А. Французу и скульптору С. Д. Меркулову.
Художникам предстояло соорудить полированные надгробья и установить бюсты на могилах Я. М. Свердлова, Ф. Э. Дзержинского, М. И. Калинина, М. В. Фрунзе и сделать гранитное обрамление братских могил.
Как вспоминает архитектор И. А. Француз, прежде всего требовалось «увязать» три элемента — Кремлевскую стену, Мавзолей и братские могилы — и одновременно подчеркнуть, что места захоронения — это в какой-то мере самостоятельное сооружение. Сложность создания прямой торжественной перспективы некрополя заключалась в том, что характер ансамбля не допускал обилия художественных деталей и украшений. Чтобы заранее представить, как будут сочетаться бюсты на постаментах с архитектурой Кремлевской стены и Мавзолея, над могилой М. И. Калинина был сооружен макет монумента в натуральную величину.
Всего для благоустройства некрополя потребовалось добыть 1750 кубических метров гранита.
К середине апреля 1947 года все строительные работы были закончены. 1 Мая — до начала парада и демонстрации на Красной площади — благоустроенный некрополь осмотрели руководители Коммунистической партии и Советского правительства. В центре высились четыре бюста — Я. М. Свердова, М. В. Фрунзе, Ф. Э. Дзержинского и М. И. Калинина.