Говорили, что он преувеличивал опасность вооруженного конфликта с Англией и возможность успешного соглашения с ней, чем способствовал затягиванию русско-турецкой войны 1877—1878 годов. В марте 1877 года он подписал Лондонский протокол великих держав с требованиями к Турции, а в 1879 году Шувалов фактически возглавил русскую делегацию на Берлинском конгрессе. Уступки, сделанные на ней русской дипломатией, были приписаны неудачным действиям лично Шувалова. Император оценил работу Петра Андреевича словами «печальные результаты», а пресса наградила графа весьма нелестными эпитетами. Справедливости ради отметим, что его коллеги по конгрессу и иностранные дипломаты оценили деятельность Шувалова совершенно иначе. Они единодушно отмечали высокий профессионализм, дипломатические способности и работоспособность графа. Но большинство российских политиков не понимали, что в данной ситуации уступки со стороны русской дипломатии были неизбежны; Шувалову же удалось отстоять и сохранить то, что возможно было отстоять и сохранить, проявив мужество, выдержку и упорство. В 1879 году он покидает пост в Лондоне и возвращается в столицу. В дальнейшем он не занимал никаких высоких должностей.
Несправедливая критика соотечественников заставила графа летом 1880 года составить записку, в которой он объяснял свои действия на Берлинском конгрессе. Ее текст отличается немногословностью, четкостью изложения, аргументированностью, доказательностью, с приведением документальных свидетельств.
В Петербурге Петр Андреевич присутствует на заседаниях Государственного совета, участвует в работе департамента законов, но от предложенного ему поста председателя департамента он отказывается. В 1884 году он назначается членом Особой комиссии для составления проекта местного управления. К концу 80-х годов его участие в заседаниях все более приобретает символический характер. Основное время Шувалов проводит в своем поместье, где часто охотится.
Скончался граф 22 марта 1889 года. Причиной смерти стал нарыв в ухе, приведший к заражению крови и быстрой кончине.
