В 1919 году Клейст был зачислен в рейхсвер. Через два года он получил чин майора, а в 1932 году уже был генерал-майором. В отличие от остальных офицеров Клейст встретил 1933 год довольно сдержанно. Несмотря на то что Гитлер почти сразу присвоил ему звание генерал-лейтенанта, аристократ Пауль Эвальд фон Клейст презрительно относился к нацистам и их социальной демагогии, что не замедлило сказаться на его карьере. Хотя в 1936 году он стал генералом кавалерии, Гитлер, проводя чистку армии после «дела Фрича», уволил Клейста из армии.
Но генерал недолго оставался вне военной службы. Приближалась война, и Пауль Эвальд фон Клейст вернулся в строй. Фюрер назначил его командующим танковой группой, которой вместе с 12-й армией фон Листа предстояло прорваться через Люксембург в Южную Бельгию, затем форсировать Маас около Седана и зайти в тыл французским частям у «линии Мажино».
Чтобы ускорить разгром французской армии, германское командование объединило танковые группы Клейста и Гудериана. Танки Клейста были оттянуты на юго-восток и вклинились в разорванный французский фронт, повернув его острием на юг. Его танковая группа прорвалась через Арденнский фронт и направила «танковый коридор» через оборонительные линии союзников к морю. Перевес сил у немецкой армии оказался настолько велик, что противник у «линии Мажино» был быстро окружен и разгромлен. За войну во Франции фон Клейст получил Рыцарский крест. Опала закончилась.3 декабря 1940 года Гитлер подписал директиву об оккупации Греции. Захват предполагалось осуществить войсками, пропущенными через территории Болгарии и Румынии. В марте Болгария и Югославия присоединилось к Тройственному пакту. Но через пять дней после подписания договора в Белграде произошел государственный переворот, и к власти пришло правительство, ориентировавшееся на западных союзников и Москву. 27 марта Гитлер срочно собрал совещание, и судьба Югославии была решена.
