Паулю фон Гинденбургу от рождения было назначено стать военным. Начальное военное образование он получил в кадетском корпусе, по окончании которого в 1866 году он поступил на службу в 3-й гвардейский пехотный полк в чине лейтенанта. Он участвовал в австро-прусской войне 1866 года и за боевые заслуги был награжден орденом Красного Орла. Затем вместе с полком он принимал участие во франко-прусской войне 1870—1871 годов и, отличившись в сражении под Сен-Прива, был представлен к Железному кресту.
В 1873 году Гинденбург решил продолжить военное образование и поступил в академию, которую окончил в 1876 году. Его последующая военная карьера была обычной для офицера прусской армии. В следующие несколько лет он занимался в основном штабной работой: в 1877 году он служил офицером в Генеральном штабе, в 1878-м – в штабе 2-го армейского корпуса, в 1881-м – в штабе 1-й дивизии начальником оперативного отдела. В 1884 году Гинденбург ненадолго получил назначение в действующую армию, став командиром роты 58-го пехотного полка, но уже на следующий год он снова возвращается офицером в генеральный штаб. В 1888 году его переводят в штаб армейского корпуса, а через год он назначается начальником отдела А-2 пехотных войск общего департамента военного министерства. Сменив еще несколько должностей, в 1900 году Гинденбург становится командиром 28-й дивизии, а в 1903-м – командиром 4-го армейского корпуса.
Пауль фон Гинденбург был уравновешенным и терпеливым человеком, но он не имел достаточных денежных средств или влиятельного покровителя при дворе и ему приходилось всего добиваться самому. Однажды в 1909 году во время военных учебных маневров он допустил ошибку, которая привела к победе войск предполагаемого противника, и в 1911 году он вышел в отставку по собственному желанию, не видя больше шанса продвигаться по службе. К этому времени он был в чине генерала пехоты.