Греческая армия начала обратный поход. Отбиваясь от войск персидского царя, ежедневно преодолевая сопротивление местных племен, неся большие потери, греки упорно продвигались к южным берегам Черного моря. После восьмимесячного пути, потеряв около трети своего состава, они достигли греческого города Трапезунда. Позволив себе длительный отдых, наемники снова двинулись в путь – к Армене. Два месяца шли греки до Армены, и два месяца Ксенофонт стоял во главе войска. Затем, вплоть до прибытия в Византий, он постоянно находился на командной должности либо над всем войском, либо над большим самостоятельным отрядом. Используя положение фактического главнокомандующего, Ксенофонт дважды за время похода пытался склонить своих соратников остаться в Понте и основать новое поселение. Вероятно, он рассчитывал на то, что сможет оказаться во главе администрации нового города и таким путем осуществить честолюбивые надежды, которые ранее связывал с участием в экспедиции Кира. Но наемники не желали оставаться в Понте и стремились скорее попасть домой, так что мечтам Ксенофонта сбыться было не суждено.
Достигнув Фракии, большая часть наемников поступила на военную службу к фракийскому царю Севфу. Царь уже неоднократно вел переговоры с Ксенофонтом, возглавлявшим греческое войско. В это время Спарта не желала обострять отношения с персами и по их просьбе согласилась выдать уцелевших греческих наемников Кира персидскому царю. Была даже сделана, правда неудачная, попытка захватить Ксенофонта. В такой ситуации для греков было лучше поступить на службу к фракийцу, чем достаться персам. Севф обещал предоставить Ксенофонту убежище, если тот подвергнется преследованиям со стороны Спарты, и передать часть своих владений в благодарность за помощь в династической борьбе. Свои обещания Ксенофонт и его воины выполнили, Севф – нет.
Но политическая ситуация вновь изменилась. Спарта начала войну с Персией. Во Фракию прибыли посланцы спартанского командующего Фиброна, чтобы пригласить бывших наемников Кира на службу. Под командованием Ксенофонта в то время оставалось всего 6 тысяч человек, а сам он собирался ехать в Афины. Он пишет, что близкие ему в лагере люди стали просить, чтобы он не уезжал до тех пор, пока не отведет и не передаст войско Фиброну. Ксенофонт согласился и довел войско из Фракии до Пергама, а затем остался на спартанской службе, так и не уехав в Афины.
