Происхождение и положение родителей при дворе были гарантией быстрой успешной карьеры молодого офицера. В следующем году он становится поручиком, затем штаб-ротмистром, ротмистром. Родители добивались для него должности флигель-адъютанта, но их усилия были сведены на нет взаимным «увлечением» сына и великой княгини Марии Николаевны. Ее отец, император Николай I, очень недолюбливал молодых людей, снискавших благосклонность дочери. Поняв ситуацию, Петр Андреевич «отдалился» от княгини, чем вызвал ее неудовольствие, но благосклонность монарха все равно не получил.
Крымскую войну Шувалов встретил командиром эскадрона Конного полка, охранявшего южное побережье Балтийского моря. Летом 1854 года он поступает в адъютанты к военному министру князю Долгорукову и по его поручению посещает различные города, где курирует отправку на фронт резервных воинских частей. 
В его обязанность также входило следить за отправкой в Севастополь транспортов с порохом. Сам Петр Андреевич также принимал участие в обороне этого города, правда недолго, но за храбрость и мужество успел заслужить награду – орден Св. Владимира 4-й степени с мечами. В 1855 году он наконец-то становится флигель-адъютантом и на следующий год сопровождает графа А.Ф. Орлова в Париж для заключения мирного договора. Вернувшись в Россию, Шувалов производится в полковники.
1857 год – год начала успешного карьерного роста графа Шувалова. Он назначается исполняющим должность столичного обер-полицмейстера и производится в чин генерал-майора. К концу года он утверждается в должности и на этом посту прилагает массу усилий для укрепления репутации столичной полиции. В этом ему помогло знакомство с опытом деятельности парижской полиции в бытность Шувалова во Франции.
