В 1916 году Кавказская армия провела три последовательные наступательные операции. Все они осуществлялись под непосредственным руководством Николая Николаевича и командующего Кавказской армией генерала от инфантерии Н.Н. Юденича. Русской армии противостояла 3-я турецкая армия, на усиление которой двигались части с Балкан.
Великий князь решил разбить 3-ю турецкую армию до подхода подкреплений, которые могли появиться на Кавказском фронте, по расчетам штаба, не ранее марта 1916 года. С этой целью и проводилась с 28 декабря 1915 года Эрзурумская операция. Успешный штурм Эрзурума стал крупной политической победой России, в результате которой правительства Англии и Франции поспешили подписать с Россией выгодное для нее соглашение о разграничении сфер влияния в этом регионе.
Весьма значительными были и итоги кампании 1916 года на Кавказском фронте. В ходе трех последовательных операций 3-я турецкая армия была трижды разгромлена. Русские войска сумели продвинуться на территорию Турции более чем на 250 километров. Были захвачены важные пункты, в том числе крепость Эрзурум, порт Трапезунд и город Эрзинджан.
Небывало снежная и суровая зима 1917 года приостановила боевые действия на Кавказском фронте. Из-за бездорожья подвоз продовольствия и фуража был сильно затруднен. Солдаты голодали, начались эпидемии. К этому периоду общие потери Кавказской армии с начала войны убитыми и умершими от ран достигли 100 тысяч человек. Не хватало боеприпасов, особенно патронов. В таком положении армия была не способна вести наступательные операции и по приказу великого князя перешла к активной обороне.
События февраля 1917 года и отречение Николая II потребовали срочного возвращение Николая Николаевича в Ставку. Император пожелал перед отречением вернуть его на пост верховного главнокомандующего. Однако Временное правительство не устраивало пребывание представителя рода Романовых на этом посту. Такая позиция Временного правительства глубоко обидела великого князя, находящегося в то время в Ставке. В ответ на письмо Львова, в котором тот просил Николая Николаевича отказаться от поста главнокомандующего, чтобы доказать свою любовь к Отечеству, он посылает в Петроград ответ следующего содержания: «Рад вновь доказать мою любовь к Родине, в чем Россия до сих пор не сомневалась». Сдав командование генералу Алексееву, Николай Николаевич покинул Могилев. Он прослужил в российской армии 46 лет и теперь навсегда оставил ее. Вскоре он с семьей перебрался в Крым, откуда был эвакуирован союзниками.