W konspiracji od października 1939 r. w SZP-ZWZ-AK (wciągnięty prawdopodobnie przez płk. "Grota" Roweckiego). Jego początkowy przydział nie jest bliżej znany. Od lipca 1940 r. po mjr. Józefie Spychalskim komendant Okręgu ZWZ Lublin z siedzibą w Warszawie. W czasie kilkutygodniowych pobytów w Lublinie mieszkał u pp. Macieja i Ludmiły Piaseckich przy ul. Narutowicza. Używał wówczas pseudonimów: "Adam", "Alois" i "Wolf". Rozszyfrowany przez Niemców - już w styczniu 1941 Gestapo znało jego nazwisko rodowe. Zdał w marcu - kwietniu funkcję komendanta Okręgu ZWZ Lublin płk. Ludwikowi Bittnerowi i wrócił do Warszawy. Objął tu funkcję zastępcy Szefa Sztabu płk. "Wojciecha" (Janusz Albrecht), a po jego aresztowaniu (7.07.1941) został mianowany Szefem Sztabu KG ZWZ (o czym Dowódca AK poinformował władze w Londynie depeszą z 28.03.1942) pod zmienionym pseudonimem "Grzegorz", potem "Robak". Rozkazem L.975 z 10 września 1943 r. powierzono mu jednocześnie funkcję zastępcy Dowódcy AK, gen. "Bora". Odtąd, aż do upadku Powstania Warszawskiego, łączył funkcję Szefa Sztabu KG AK i zastępcy Dowódcy AK. Rozkazem Naczelnego Wodza z 24.11.1943 r. mianowany generałem brygady ze starszeństwem z 1.10.1943 r. Osobiście dowodził w kwietniu 1944 r. akcją "Jula", w ramach której oddziały Kedywu dokonały przerwania linii kolejowych na trasach: Przeworsk-Rozwadów, Rzeszów-Przeworsk i Jasło-Sanok.