Научный архив начал формироваться с 1931 г. еще в Карельском научно-исследовательском институте АКССР (КНИИ АКССР), а после его реорганизации, – в Карельском научно-исследовательском институте культуры КАССР (КНИИК КАССР). В архив поступала документация общего делопроизводства Института, научные материалы по всем направлениям исследований, проводимых Институтом, а также научные материалы экспедиций, проводимых с 1927 г. на территории Карелии вузами Москвы и Ленинграда.В 1946 г. архив был включен в состав рукописного фонда библиотеки Карело-Финской научно-исследовательской базы АН СССР.
С 1949 г. научный архив становится самостоятельной административной единицей и фонд его постоянно пополняется. К настоящему времени научный архив КарНЦ РАН насчитывает 45 фондов и более 61 тысячи единиц хранения, включая кино- и фотоматериалы. Значительная часть документации – научная, которая отражает основные направления развития науки в Карелии и деятельность учреждений КарНЦ РАН.
Большой интерес представляют фольклорные записи русского и финно-угорских народов (карельского, финского, саамского), которые являются достоянием Карелии и считаются лучшими в России, а также коллекции рукописных документов XV-XIX вв., отражающие социально-экономические отношения, быт крестьян и поморов, историю монастырей.Комплекс личных фондов освещает стороны общественной жизни и деятельности видных ученых Карелии, участников революционного движения XX в. в Финляндии и России, Гражданской и Великой Отечественной войн на территории Карелии.
Кроме научных документов значительное место занимает управленческая документация (приказы, отчеты, планы, личные дела и т.п.), освещающая деятельность КарНЦ РАН.