В 1697 году Ракоци получил предложение возглавить восстание против Габсбургов, но он понимал, что время для решительных действий еще не пришло – ни он сам, ни дворянство еще не были готовы к открытому разрыву с династией. Поэтому в период восстания 1697 года Ракоци сохранил видимую верность императору.
Учитывая опыт прошлой борьбы венгров, Ракоци начал искать сильного союзника, который мог бы поддержать его в борьбе за свободу Венгрии. Таким союзником для него представлялся французский монарх Людовик XIV, не испытывающий к австрийским Габсбургам «нежных» чувств и являвшийся их соперником в войне за испанское наследство (1701). Ракоци вступил с ним в тайную переписку. Он предлагал Людовику помочь ему, Ракоци, заключить польско-венгерский союз с Августом Саксонским и нейтрализовать османов, так как и на Польшу, и на Турцию Людовик имел большое влияние.
Вскоре, однако, эта переписка попала в руки австрийских властей, и заговор был раскрыт. Ракоци был арестован и посажен в тюрьму, где 30 лет назад был обезглавлен его дед по линии матери Зриньи. Но благодаря жене Ференц бежал из тюрьмы и нашел убежище в Польше, где его приютили магнаты, придерживающиеся французской ориентации. На родине Ракоци заочно был приговорен к смертной казни.
В марте 1703 года он вступил в переговоры с вождями восставших крестьян на севере Венгрии, и уже в мае Ракоци прибыл в один из повстанческих отрядов, решив встать во главе вооруженной борьбы. Он вручил крестьянам знамя, на котором был начертан девиз: «За отечество и свободу, с Богом!». Вскоре князь издал манифест с призывом к вооруженной борьбе против Габсбургов. Так началась война против Австрии, продолжавшаяся свыше восьми лет.
Восстание быстро охватило Трансильванию и Закарпатье. Повстанцы называли себя «куруцы» по аналогии с участниками восстания 1514 года под руководством Дьердя Дожи. Ракоци вел партизанскую войну, его отряды проникали даже в окрестности Вены, опустошая все на своем пути.
К концу года почти вся территория Венгерского королевства оказалась в руках повстанцев, а в июле 1704 года при активной поддержке украинских, румынских и словацких крестьян была очищена от габсбургских войск Трансильвания.
Еще зимой 1704 года Ракоци начал создавать самостоятельное государство. Во главе его был поставлен придворный совет с обширными полномочиями в сфере политики, финансов и администрации.