В 1832 году князь Оболенский, в чине коллежского асессора, назначается на должность заведующего секретной частью канцелярии наместника Царства Польского. Проработав год, он переводится на службу в министерство иностранных дел, в Московский главный архив, с которым его связала 40-летняя деятельность. Начав службу в должности переводчика, Михаил Андреевич очень скоро становится главным смотрителем в комиссии печатания государственных грамот и договоров, что позволило ему заниматься наукой, которая давно его привлекала. Михаил Андреевич с первых же шагов службы в архиве взялся за изучение исторических памятников и документов.
В 1834 году Оболенский становится членом Московского общества истории и древностей России. Изданная им в 1837 году «Супрасльская летопись» привлекла к нему внимание как к ученому, и в 1839 году князь Оболенский избирается членом Археографической комиссии.
В декабре 1840 года Михаил Андреевич назначается исполняющим должность управляющего Московского главного архива МИДа, и через три года он получает чин статского советника. В апреле 1845 года он был пожалован в камергеры высочайшего двора, а в 1848 году Оболенский утверждается в должности управляющего архивом, которая в дальнейшем была переименована в должность директора архива.
Князь собрал и издал множество письменных и вещественных источников по истории России XIV–XVI веков. Благодаря его деятельности и огромной работоспособности увидели свет «Летописец Переяславля Суздальского», «Иностранные сочинения и акты, относящиеся к России», «Книга об избрании на царство Михаила Романова», «Письма русских государей и других особ царского семейства» и многие другие источники. Начиная с 1838 года в течение 20 лет он издавал «Сборник князя Оболенского», 12 выпусков которого содержали исторические акты, хранящиеся в Московском главном архиве. Михаил Андреевич неоднократно публиковал статьи в различных периодических изданиях. Признавая его огромный вклад в развитие науки, в декабре 1846 года историко-филологическое отделение Петербургской Академии наук избрало князя Оболенского членом-корреспондентом по разряду исторических и политических наук. В дальнейшем он был избран почетным членом Московского, Казанского и ряда других университетов.