Главное командование XXXXIV. Армейский корпус был создан 15 апреля 1940 года в составе XVII Wehrkreis (Вена) и принимал участие в битве за Францию в составе 6-й армии . После прорыва через Эну она двинулась к Луаре и заняла Орлеан. В июле 1940 года корпус был передан Генерал-губернаторству (Польша) и передан под командование 4-й армии.
После начала операции «Барбаросса» (июнь 1941 года) снова под командованием 6-й армии XXXXIV армейский корпус в составе 9-й, 262-й, 297-й и 57-й стрелковых дивизий действовал на Южном Буге , взял Сокаль и Кристинополь . В ходе битвы под Бродами (1941) XXXXIV корпус подвергся сильным контратакам советского 15-го мехкорпуса . Выдержав атаку, наступление на Козятин продолжилось. В августе 1941 года в ходе битвы под Уманью корпус был подчинен 1-й танковой армии и после боя выдвинулся к Днепру. В сентябре 1941 года приписанный к 17-й армии корпус в составе Gruppe Schwedler обеспечивал обеспечение участка Днепра в районе Черкасс в ходе битвы за Киев силами 68-й и 297-й стрелковых дивизий.
В январе 1942 года в Барвенково-Лозовой наступательной операции корпус был отброшен войсками Южного фронта (под командованием Малиновского) в районе Изюма. После последовавшей Второй битвы за Харьков корпус принял участие в успешном контрнаступлении 17 мая, получившем название «Операция Фридерикус». Во время летнего наступления немцев корпус в июле 1942 года вторгся на Кавказ из Славянска через нижний Дон под Константиновском . После продвижения к Майкопу он тщетно пытался прорваться к Туапсе на Черном море.
Весной 1943 года корпус был отведен на Кубанский плацдарм . Отведенный на Таманский полуостров в июле 1943 года, корпус был переведен в состав 6-й армии на Нижнем Днепре и в октябре 1943 года участвовал в наступлении советских войск на Нижнем Днепре .
13 марта 1944 года в результате Березнеговато-Снигиревской наступательной операции город Херсон был потерян войсками 4-го Украинского фронта . Отброшенный в Молдавию, корпус участвовал в Ясско-Кишиневском наступлении (август 1944 г.) под командованием Людвига Мюллера. Корпус был атакован войсками 3-го Украинского фронта со стороны Дубоссар , отброшен, окружен под Кишиневом и полностью уничтожен.