К разрыву союзных отношений между Россией и Францией привели события в Польше в 1861—1863 годах. Как отмечал Горчаков, польский вопрос касался не только России – «он был камнем преткновения для всех держав». В начале 60-х годов французский император стал активно поддерживать польскую эмиграцию во Франции, а еще ранее им поднимался вопрос о статусе Польши, что вызывало явное неудовольствие Александра II. После польского восстания 1863 года времени согласованных действий Франции и России пришел конец.
Это было время, когда Горчаков находился на вершине карьеры. Выполняя обязанности министра, он в 1862 году становится вице-канцлером и входит в состав высших государственных учреждений России. Теперь ему снова приходилось искать нового союзника во внешнеполитических вопросах России. Таким союзником становится Пруссия. Бисмарк, давно желавший объединить Германию «железом и кровью», первым начал предпринимать шаги для сближения двух стран. Поддержка России была ему необходима.В начале 1863 года в Петербурге была подписана секретная русско-прусская конвенция о взаимной помощи «для восстановления порядка и спокойствия, с предоставлением отрядам как русским, так и прусским права перехода через государственную границу в тех случаях, когда это оказалось бы нужным для преследования повстанцев». У Горчакова, а также у военного министра Милютина эта конвенция вызвала негативную реакцию. Они посчитали ее «ненужной и опасной». И не ошиблись. Узнав о ней, Франция, Англия и Австрия выступили с протестом по поводу ее заключения и стали настаивать на восстановлении в Польше конституции 1815 года. Стремясь смягчить конфликт, Горчаков напомнил представителям этих стран о единстве интересов в борьбе с революциями, но в то же время заявил, что польский вопрос – это внутреннее дело России. Русским послам за границей было предписано прекратить все переговоры по польским делам.