Наступает 1866 год. Граф Шувалов отмечает свое 39-летие и достигает зенита «славы». После неудачного покушения Дмитрия Каракозова на императора Шувалов назначается на пост шефа жандармов и главного начальника III отделения. Пребывание на этой должности явилось временем наиболее сильного его влияния на внутреннюю политику. Почти восемь лет он являлся ближайшим советником императора и был наделен широкими, почти диктаторскими полномочиями. Постоянный противник графа Шувалова бывший военный министр Д.А. Милютин писал, объясняя причины такого влияния: «Все делается под исключительным влиянием гр. Шувалова, который запугал государя ежедневными своими докладами о страшных опасностях, которым будто бы подвергается и государство, и лично сам государь. Вся сила Шувалова опирается на это пугало. Под предлогом сохранения личности государя и монархии гр. Шувалов вмешивается во все дела, и по его наушничеству решаются все вопросы».
Петр Андреевич рекомендовал на посты министров внутренних дел и юстиции своих сторонников, таких же противников реформ, каким был и сам. Он стремился проникать в различные сферы государственной деятельности, сплотить вокруг себя «партию» единомышленников, придерживающихся жесткого консервативного курса. И это ему удалось.
Либералы не уставали критиковать деятельность графа Шувалова. Много говорилось о политике репрессий, проводимой шефом жандармов. Но обратимся к статистике: за последние четыре года деятельности Шувалова на этом посту было проведено 10 политических процессов, а за последующие четыре года – 46.
С началом 70-х годов влияние Шувалова на императора начало заметно уменьшаться, и в 1874 году он получил отставку. Поводом для нее стало «желание» Шувалова занять какой-либо видный дипломатический пост. Сказано это было несерьезно, но государь воспользовался моментом и назначил графа чрезвычайным и полномочным послом в Лондон. Выбор для Шувалова именно Англии был не случайным. Еще в 1873 году благодаря усилиям графа была решена весьма деликатная проблема улаживания дипломатических трудностей в связи с продвижением России в Среднюю Азию, и Петр Андреевич удачно проявил себя во взаимоотношении с английским двором. Император, вероятно, надеялся, что на этом посту граф сумеет активно и плодотворно действовать в интересах России. Но в целом дипломатическая деятельность Шувалова, по оценкам современников, была неудачной.