Уже с 27 ноября 1874 года Николай Федорович был определен в ней на скромную должность дежурного чиновника при читальном зале. Почти четверть века суждено ему отныне быть связанным с этим местом. Сам Николай Федорович рассматривал свою работу в Румянцевском музее «как священное дело». Книга, служению которой он себя посвятил, — как соединяющее и нетленное звено между бывшим и настоящим — приобретала особенное, воскрешающее значение. В неопубликованной статье «Уважал или презирал книгу 19 век?» он писал: «Книга как выражение слова, мысли и знания занимает высшее место среди памятников прошедшего, должна она занимать его и в будущем, которое призвано стать делом возвращения прошедших поколений к жизни, и лишь тогда книга с этого первого места снизойдет на последнее, когда то, что было лишь в книге, то есть только в мысли и голове, станет живым делом человечества».
Сохранение мировой памяти, письменных памятников прошедшего и проходящего буквально на глазах, организация возможно более целесообразная, системная этого сохранения осмыслялись у него единой целью. Ходили легенды о колоссальных познаниях Федорова, рассказывали фантастические и тем не менее реально случившиеся истории. 
Многие русские ученые (причем диапазон тех наук, которыми они занимались, необыкновенно широк — от востоковедения, религиоведения до военно-морского дела) с благодарностью вспоминали о той помощи, которую оказал им Николай Федорович. «Это была прямо живая энциклопедия в самом лучшем смысле этого слова, и, кажется, не было предела его памяти», — заключает Покровский (Георгиевский).
Из воспоминаний Георгиевского мы узнаем еще одну характерную деталь оказывается, Румянцевский музей посылал требования на новые иностранные издания по спискам, составленным Николаем Федоровичем. Действительно, Федоров стал инициатором новых форм ведения книжного дела, выдвинул идею не только межбиблиотечного, но и международного книгообмена, использования в читальных залах книг из частных коллекций и т. д.
