Горчаков сыграл ключевую роль в создании «Союза трех императоров» (1873), пытаясь использовать его для подготовки будущей войны с Турцией.
Русско-турецкая война 1877—1878 годов велась под флагом освобождения балканских народов от власти Турции. При ее успешном завершении Россия рассчитывала утвердить свое влияние на Балканах. Во время войны Горчаков направил большие усилия для обеспечения нейтралитета европейских государств. В марте 1878 года был подписан мирный договор с Турцией в Сан-Стефано, согласно которому России возвращалась Южная Бессарабия, отторгнутая по Парижскому договору 1856 года.
Успех русской армии в войне с Турцией и выгодный для России мирный договор были сведены к нулю на Берлинском конгрессе. Россию на конгрессе представлял Горчаков, и как он писал Александру II: «Берлинский трактат есть самая черная страница в моей служебной карьере». Из-за противодействия Англии и Австро-Венгрии Россия лишилась плодов победы. На конгрессе произошел разрыв Горчакова и Бисмарка.
Еще три года после Берлинского конгресса Горчаков стоял во главе министерства иностранных дел. Он по-прежнему прилагал усилия для сохранения стабильности в стране и «равновесия сил» в Европе. Но годы брали свое, и в 1880 году он уезжает за границу для лечения, сохранив за собой пост министра. Уже без его участия в 1881 году прошли переговоры в Берлине, приведшие к заключению русско-германско-австрийского союза. В марте 1882 года Горчаков уходит в отставку с поста министра иностранных дел, сохранив за собой чин государственного канцлера и должность члена Государственного совета. Отойдя от активной политической жизни, он часто проводит время с друзьями, много читает, диктует воспоминания о своей жизни и дипломатической деятельности – прекрасную память он сохранил до последних дней.
