W marcu 1942 roku Hitler na nowo uczynił von Rundstedta odpowiedzialnym za organizowanie obrony na zachodzie Europy, czyniąc go dowódcą obszaru operacyjnego „Zachód”. Powierzenie pechowemu feldmarszałkowi tej roli było wielkim błędem, jako że fortyfikowanie wybrzeża szło mu gorzej niż miernie, a przez półtora roku pracy opieszały von Rundstedt nie zdołał wznieść żadnych poważniejszych umocnień. Do tego popadł w personalny konflikt z Erwinem Rommlem – kierowany swą wrodzoną przezornością nie chciał zgodzić się na plan Rommla zakładający umieszczenie wojsk pancernych zaraz przy linii brzegowej, twierdząc, iż utrudniłoby to im manewry oraz naraziło na ostrzał artylerii.
Tuż po desancie wojsk amerykańskich na francuskie wybrzeże, von Rundstedt, widząc oczami swej duszy przyszłą sromotną klęskę III Rzeszy, nalegał na Hitlera i jego bliskich współpracowników, aby czym prędzej rozpoczęli rokowania pokojowe z aliantami. Podobno w rozmowie z Wilhelmem Keitlem krzyknął nawet: „Zakończcie wojnę, idioci!”. Hitler, zdenerwowany usunął von Rundstedta ze stanowiska dowódcy obszaru operacyjnego „Zachód” a na jego miejscu umieścił Guenthera von Klugego. Obrażony feldmarszałek przeszedł 2 lipca w stan spoczynku.
Pomimo tego, iż nie popierał on polityki hitlerowców, nigdy nie spiskował przeciw Fuehrerowi, jako że poczynania takie uważał za zdradę. Zdrada w pojęciu von Rundstedta była godna najgorszego potępienia. Dlatego też wielce oburzył go mający miejsce 20 lipca zamach na Hitlera, do tego stopnia, iż zgodził się przewodniczyć razem z Keitlem i Guderianem powstałemu 2 sierpnia sądowi honorowemu, mającemu na celu zbadanie sprawy wszystkich oficerów podejrzewanych o współudział w spisku.
Na stanowisku głównodowodzącego obszaru operacyjnego „Zachód” von Rundstedt znalazł się ponownie 9 września 1944 roku. Swoje ponowne dowództwo rozpoczął od świetnego sukcesu w postaci powstrzymania natarcia aliantów w ramach operacji „Market Garden”. W grudniu podlegające mu wojska na rozkaz Hitlera miały wziąć udział w olbrzymiej kontrofensywie w Ardenach, mającej na celu rozdzielenie wojsk angielskich i amerykańskich poprzez odbicie Antwerpii a następnie zaatakowanie i pokonanie Amerykanów. Von Rundstedt zdecydowanie sprzeciwiał się tej operacji, będąc gorącym zwolennikiem poprowadzenia kilku mniejszych ofensyw. Jakkolwiek, nie zdołał do swych racji przekonać głównego dowództwa wojsk niemieckich, więc, umywając ręce, jedynie formalnie sprawował dowodzenie nad kontrofensywą, która – jak wiemy z historii – zakończyła się klęską Wehrmachtu.
Obarczony przez Hitlera winą za niepowodzenia na froncie zachodnim, feldmarszałek von Rundstedt w marcu 1945 roku został ostatecznie już zdymisjonowany ze stanowiska głównodowodzącego obszaru operacyjnego „Zachód” (jego miejsce zajął Albert Kesselring). 1 maja 1945 został wzięty do niewoli przez żołnierzy 36. amerykańskiej dywizji piechoty.
Po zakończeniu walk w Europie został przetransportowany wraz z innymi wysokimi rangą oficerami do południowej Walii, gdzie zamknięty został w obozie jenieckim w Bridgend. Był oskarżony o zbrodnie wojenne, w tym masowe mordy na ludności cywilnej zamieszkującej okupowane tereny na Wschodzie. Jakkolwiek, ze względu na zły stan zdrowia (podczas przesłuchań przeżył drugi zawał serca) nigdy nie stanął przed sądem. Podczas procesów norymberskich zeznawał jako świadek. W maju 1949 roku został wypuszczony na wolność. Powrócił do Niemiec i mieszkał w Hanowerze aż do swej śmierci 24 lutego 1953 roku.