根据1960年2月5日苏联共产党中央委员会和苏联部长会议决议，克里姆林宫兵器库和教堂从警备司令部分离出来组成新的机构——莫斯科克里姆林宫国家博物馆，隶属于苏联文化部。1960年4月9日颁发了将有关建筑和财产由莫斯科克里姆林宫警备司令部转交给博物馆的正式文件。

整个4月成了博物馆主要领导岗位的任命期。茨维特科夫被任命为博物馆馆长，负责科研工作的副馆长一职得以恢复，并由20-30年代曾在博物馆工作过的伊万诺夫担任。博物馆编制中首次设置了总保管人（由扎哈罗夫担任）和总建筑师（由费奥多罗夫担任）职务。截至1960年4月12日，博物馆共有工作人员99人，其中科研人员32人，图书馆馆员1人，修复专家2人。

在接下来的几年里，博物馆不断优化结构，成立了一些新的部门，包括1961年成立的保安处、科学档案馆、科学图书馆等。

至1963年年中，博物馆形势逐渐稳定下来。1963年4月1日，博物馆机构和人员编制被正式批准。9月5日，《莫斯科克里姆林宫国家博物馆章程》颁布。

正式确定的博物馆机构，以及章程中规定的博物馆职能和工作重点一直保留至1975年。

1975年8月，为适应博物馆发展需要，一套新的机构设置方案被正式批准。苏联文化部在70年代初对博物馆工作进行检查后认为，博物馆的文物清点和保存工作需要极大改进。为此，原保管和清算处被拆分为储存处及文物清点和贵金属鉴定处。同时，为加强档案馆和图书馆储存物品的登记、保管和有效利用，成立了手稿和印刷资料管理处。此外，还成立了展览和出版处。

20世纪70-80年代，博物馆各项工作均得到蓬勃发展，克里姆林宫文物和历史建筑的清点、保护和修复工作进入到全新阶段。这一时期，博物馆几乎所有科研人员都不同程度上取得了研究成果，发表的科研报告和学术文章数量猛增。从1973年起，克里姆林宫博物馆文集《资料与研究》陆续出版。1986年，博物馆被正式赋予科研机构地位。

70年代末至80年代中，克里姆林宫内的大教堂和兵器库进行了博物馆历史上规模最大的修复工作。

1986年，兵器库重新开放。1987年，17世纪实用艺术和习俗博物馆对外开放。