На юго-западном направлений против 5-й, 6-й; 12-й и 26-й армий и 6 механизированных корпусов генерал-полковника Карпоноса действовала группа армий «Юг», возглавляемая генерал-фельдмаршалом фон Рунштедтом. Ее главной ударной силой была 1-я танковая группа генерал-полковника фон Клейста.

Директива № 3 наркома Тимошенко предписывала Юго-Западному фронту в составе 5-й и 6-й армий окружить и уничтожить противника, наступающего в направлении Владимир-Волынского и Броды, а к исходу 24 июня овладеть районом Люблина. Уже 22 июня в Киев срочно был направлен в качестве представителя Ставки генерал армии Жуков. На Украине развернулись тяжелые бои. В районе Луцк — Броды — Ровно на стыке Юго-Западного и Южного фронтов Красная армия в танковом сражении нанесла заметный урон врагу, однако в целом инициатива полностью находилась в руках германских войск. В начале июля были захвачены Бердичев и Житомир. За три недели боев немцы оккупировали почти всю правобережную Украину. Танкисты Клейста неудержимо рвались к Киеву.

7 июля было опубликовано обращение Президиума Верховного Совета УССР, Совнаркома и ЦК КП(б) Украины к украинскому народу, где говорилось, что настало время, когда каждый, не жалея жизни, должен до конца выполнить свой священный долг перед Родиной. В Киеве был создан штаб обороны города. Шли работы по сооружению оборонительной полосы. Оценивая роль Хрущева, маршал И. Баграмян впоследствии писал: «Я помню, какую огромную политическую и организационную работу вел в период напряженных боев на подступах к Киеву Н. С. Хрущев. Постоянно находясь то в цехах заводов, то на передовых позициях, Н. С. Хрущев, пользовавшийся огромным доверием киевлян и войск, умело направлял их действия на достижение победы».

29 июля 1941 года начальник Генштаба генерал армии Жуков предложил оставить Киев и отвести войска за Днепр, чтобы предотвратить их окружение. Это вызвало резкий отпор Сталина. 2 августа немцы замкнули «котел» под Уманью. 8 августа фон Клейст сумел форсировать Днепр между Киевом и Кременчугом. Командующий Юго-Западным фронтом маршал С. Буденный запросил у Ставки разрешения оставить Киев и отвести войска на реку Псел, но вновь получил отказ.

15 сентября немецкие танки замкнули кольцо окружения в районе Лохвицы, примерно на 200 км восточнее столицы Украины. В «котле» оказались основные силы Юго-Западного фронта: 5-я, 26-я, 37-я и частично 21-я и 38-я армии. Немцы пленили 665 тысяч человек. Незадолго до этого под Уманью были разгромлены 6-я и 12-я армии. В плену оказалось около 100 тысяч красноармейцев. Буденный и Хрущев в это время находились вне «котла». Генерал-полковник Кирпонос застрелился. Член Военного Совета Бурмистенко и начальник штаба Тупиков погибли. Это была одна из крупнейших катастроф в войне 1941–1945 гг.

Другая крупная военная катастрофа Красной Армии также в значительной мере связана с именем Хрущева. 12 мая 1942 года Юго-Западный фронт (командующий Тимошенко) и Южный фронт (командующий Малиновский) начали плохо подготовленное наступление в районе Харькова, на чем настоял Сталин. Первые три дня наступление было удачным. Однако затем немцы нанесли сильнейший удар с юга во фланг наступающим советским войскам. 18 мая Хрущев, по его словам, звонил Сталину, чтобы заручиться санкцией Ставки на отвод войск. Последовал отказ. Таким образом, Хрущев возложил всю вину за поражение на Сталина. Однако Жуков впоследствии говорил, что ответственность за неудачу несут и руководители Юго-Западного и Южного фронтов. Подобные свидетельства содержатся и в воспоминаниях ряда других советских военачальников.

В связи с этими событиями под Харьковом, ставшими, по признанию Хрущева, «тяжелой вехой» в жизни, он в мемуарах вновь обращается к образу Сталина: «Мне не раз приходилось вступать в спор со Сталиным по тому или иному вопросу в делах гражданских и иногда удавалось переубедить его. Хотя Сталин метал при этом огонь и воду, я настойчиво продолжал доказывать, что надо поступить так-то, а не эдак. Сталин иной раз не принимал сразу же моей точки зрения, но проходили часы, порою и дни, он возвращался к той же теме и соглашался. Мне нравилось в Сталине, что он в конце концов способен изменить решение, если убеждался в правоте собеседника, который настойчиво доказывал ему свою точку зрения, если его доказательства имели под собой почву. Тогда он соглашался».

Под Харьковом Хрущев опять столкнулся с Клейстом. Вскоре две советские армии, 6-я и 57-я, оказались «в мешке». В итоге провала Харьковской операции в плен попало около 150 тысяч человек. А в конце июня 1942 года южнее Курска гитлеровская армия начала мощное наступление. Наша оборона на стыке Брянского и Юго-Западного фронтов была прорвана, и немцы двинулись по громадным и незащищенным степным пространствам на Кавказ и Волгу. Паника и бегство с оборонительных позиций приняли такие масштабы, что был издан печально знаменитый приказ Сталина № 227 от 30 июля «Ни шагу назад!».

Хрущев, опасаясь гнева Сталина, рассчитывал на самое худшее, однако все обошлось. К этому времени, видимо, Хрущев уже вошел в число самых доверенных лиц. Вскоре он становится членом Военного Совета Сталинградского фронта, которым командовал вначале генерал Гордое, а затем — генерал Еременко.

Под Сталинградом уже в конце лета 1942 года сложилась очень тяжелая обстановка. 23 августа 6-я армия фон Паулюса вышла к Волге и получила возможность держать весь Сталинград под своим огнем. 12 октября немецкие войска начинают штурм Сталинграда. В городе развернулись ожесточенные бои, но немцам так и не удалось взять Сталинград.

Генерал-майор Хрущев принимал участие в разработке плана контрнаступления советских войск под Сталинградом и окружения армии Паулюса.

Вскоре Хрущев столкнулся с одним из крупнейших немецких полководцев второй мировой войны фон Манштейном, которому была поставлена задача деблокирования Сталинградского котла. Хрущев вспоминал: «На участке в направлении Котельниковского действовала 51-я армия, кавалерийский корпус Шапкина, механизированный корпус Вольского и другие соединения. Я несколько раз выезжал в эту группу войск, потому что там сложилась тяжелая обстановка. Мы знали по данным разведки, что немецкий генерал-фельдмаршал Манштейн командует группой войск, которая двигается на освобождение окруженной нами группировки. Он начал теснить нас. Его войска находились уже примерно в 50 километрах от переднего края Паулюса».

Манштейн наносил удар силами 4-й танковой армии Гота, которая начала свое наступление 12 декабря 1942 года. Сам Эрих фон Манштейн в своих знаменитых записках «Утерянные победы» пишет: «Гибкость управления нашими танковыми соединениями, превосходство наших танкистов проявились в эти дни самым блестящим образом, так же как и храбрость солдат механизированных войск… Этот бой показал также, что способна совершить старая испытанная танковая дивизия, когда ее перед боем полностью укомплектовывают танками и самоходными орудиями». Однако немецкий прорыв не удался. 19 декабря наступление танков Гота захлебнулось, и б-я армия была обречена.

В феврале 1943 года командующим Южным фронтом вместо Еременко, по предложению Хрущева, Ставка назначила генерала Малиновского. Войска шли на Ростов. Хрущев вспоминает, что были заняты станицы Багаевская и Манычская. Штаб фронта перенесли в хутор Веселый. 28-я армия генерала Герасименко заняла Сальск и Новочеркасск. Вскоре был освобожден и Ростов; в городе состоялся военный парад. Через некоторое время Хрущева отозвали в Ставку и назначили членом Военного Совета Воронежского фронта. Тогда же ему было присвоено воинское звание генерал-лейтенанта.

В это время уже началось освобождение Украины. 16 февраля 1943 года наши войска взяли Харьков. Именно в эти дни Хрущев и прибыл в статусе члена Военного Совета Воронежского фронта и секретаря ЦК КП(б) Украины. Командовал войсками фронта генерал армии Ф. Голиков, которого позднее сменил генерал армии Н. Ватутин. В результате немецкого контрнаступления Харьков вскоре пришлось оставить, но в конце августа 1943 года он был вторично и уже окончательно освобожден.