Рассчитывая на восстановление независимости Польши в результате военной победы Австро-Венгрии и Германии над Россией, Пилсудский установил связь с австро-венгерским генеральным штабом, при поддержке которого он организовал разведывательную работу и создал в Галиции диверсионно-террористическую организацию «Стрелец» – армию в изгнании.
Во время Первой мировой войны Пилсудский командовал 1-й бригадой польских легионов в составе австро-венгерской армии. В конце 1916 года он был назначен начальником военного департамента в правительстве «независимого польского государства», созданного австро-венгерскими оккупантами. Пилсудский отказался действовать вне польской территории и уже в июле следующего года за конфликт с оккупационными властями был арестован.
После ноябрьской революции в Германии Пилсудский был освобожден и прибыл в Варшаву. Здесь Регентский совет передал Пилсудскому 11 ноября военную, а 14 ноября 1918 года и гражданскую власть. При поддержке правых руководителей ППС, созданной сторонниками Пилсудского, Польской военной организации (ПОВ), легионеров и единомышленников в других партиях Пилсудский в 1918 году был провозглашен «начальником государства» и оставался им до 1922 года.
Из различных патриотических вооруженных формирований Пилсудский создает национальную армию, которую начиная с 1919 года стало вооружать и поддерживать французское правительство. Первые бои этой армии были проведены с чехами, украинцами и немцами из-за приграничных споров.
Пилсудский, отвергая все предложения советского правительства об установлении дипломатических отношений, начал в феврале 1919 года захват белорусских, литовских и украинских земель. Вместе с тем, опасаясь великодержавных замыслов русских белогвардейцев, прежде всего Деникина, Пилсудский был вынужден пойти на заключение в марте 1919 года советско-польских соглашений. Итогом их стало прекращение боевых действий, которые Красная армия вела против петлюровцев.
Однако боевые действия между Красной армией и польскими войсками были прекращены лишь на короткое время. С мая 1919 года Пилсудский установил отношения с Петлюрой.
В январе 1920 года Пилсудский пригласил в Польшу Б.В. Савинкова, финансировал деятельность его организаций, содействовал формированию в составе польских войск отрядов С.Н. Булак-Балаховича и других.