Первая задача была решена, и на очереди стояла подготовка новой русско-польской войны, основной целью которой было возвращения исконно русских земель. Филарет торопил события. Понимая, что Россия не может самостоятельно одолеть такого сильного противника, как Польша, он начинает искать союзников. Основную ставку он делает на Швецию, чьи послы посещают Россию в 1626-м, 1629-м и 1630 годах. Кроме Швеции Филарет пытается втянуть в антипольскую коалицию Данию, Англию и Голландию. Но Дания имеет дружеские контакты с Австрией, которая являлась союзницей Польши. Остальные страны согласны были оказать России только материальную поддержку.
Большая работа проводилась и в самой России – русскому обществу постоянно напоминалось о том, что поляки были главными виновниками Смуты. К этому времени появились сразу несколько сочинений, посвященных Смутному времени, в которых Сигизмунд III обвинялся в приходе самозванца Лжедмитрия, оказывая ему огромную поддержку, в свержении Василия Шуйского, в захвате территорий, считавшихся исконными русскими землями. Для усиления русской армии, еще слабой и хуже организованной, чем армия Польши, созданная по европейскому образцу, в Россию были приглашены зарубежные военные специалисты. В их задачу входил наем солдат в Швеции, Англии, Голландии и Дании, закупка оружия и провианта. Вскоре в русской армии появились иноземные полки, сформированные из наемников, а к началу русско-польской войны за границей было закуплено более тысячи мушкетов, 3 тысячи сабель, 15 тысяч пудов ядер и около 20 тысяч пудов пороха.
С 1622 года все дипломатические контакты с Речью Посполитой были прерваны, а Филарет особое внимание стал уделять приемам иноземных послов. Так к началу 30-х годов XVII века сложилась антипольская коалиция, куда вошли кроме России Швеция, Трансильвания и Турция.
Момент для начала военных действий был удачным: Польша находилась в стадии «безкоролевья» и внутри страны шла борьба за власть. Самым трудным для патриарха был вопрос о выборе главнокомандующего. Выбор пал на М.Б. Шеина. Филарет не сомневался в его преданности и опытности – Шеин в недалеком прошлом мужественно оборонял Смоленск, а затем сам находился в польском плену. Но он был сварлив и неуживчив, не признавал авторитетов и чужого мнения. А это не позволило ему найти контакта с иностранными офицерами, что в дальнейшем плохо сказалось на ходе войны.
В конце лета 1632 года русская армия выступила в поход. Путь лежал на Смоленск. Для русского войска начало войны было успешным – удалось вернуть ряд городов – Дорогобуж, Стародуб, Новгород-Северский и другие. К осени русские полки стояли уже под Смоленском.
