新中国成立后，总参谋长一职先后由元帅、大将、上将担任或者代理，如徐向前、聂荣臻、粟裕、黄克诚、罗瑞卿、杨成武、黄永胜、叶剑英、邓小平、杨得志担任。
在这些历任总长（代）里，谁也没有罗瑞卿在任期间，兼职多，曾一度身兼13职，权力一度高于老帅。

我们知道在五十年代，罗瑞卿担任公安部首任部长，兼任公安军司令员。随着公安军被撤销，要的主要精力公安部。
1959年，庐山会议后，他被提拔起来主管三军，而且还兼任军委秘书长。一般情况下，军委秘书长的职务相对有大有小，彭老总在任时，凡事亲力亲为，秘书长显得不那么突出。林彪主持工作后，因身体情况，大事小事都交给罗瑞卿去负责，职务也不断叠加。

                        
                        
                        
                            
此后的几年里，在军委秘书长兼总长之后，又当选中央书记处书记，副总理，国防部副部长、国防工业办公室主任、国防委员会副主席、人民防空委员会主任、国务院政法办公室副主任等，涉及5个部门的13个职务，而且全是要害部门，光秘书就有6个。
从职务上讲，他在军中排名虽然在老帅们之后，可论实权，仅次于林彪。像聂老总、罗帅、刘帅、陈老总、徐帅、叶帅等只负责某一个领域的工作，三军工作由他负责。很多工作如果得不到他的支持，老帅们也难以开展。
1965年，他被指治军路线与林不一样，他主张军事训练为主，林主张突出政治；又被指对林封锁消息，不汇报工作，要当国防部长等。

上海会议时，他虽然到上海，却没有参加。上级采取背靠背的方式开会，对他的问题处理。这时罗瑞卿也深感不安，不知道发生什么事了。后来通过一些材料，他才得知情况，给上级写信，对所指对问题进行辩解。
此后，他的职务被免去12个，最重要的两个军委秘书长兼总参谋长，分别由叶帅、杨成武担任。叶帅从这个时候担军委秘书长，主持军委日常工作，军中地位仅次于林、贺。因为在1959年，林彪主持军委后，只任命三位副主席，分别是林彪、贺龙、聂荣臻。

1966年1月8日，中央决定增加陈毅、刘伯承、徐向前、叶剑英为军委副主席。
回到北京后，罗瑞卿闭门思过，想平静平静。可到1966年3月3日，罗瑞卿被通知开会，专门解决他的问题，军委常委会专门开会，对他进行面对面批判，问题越说越重，帽子一个比一个大。

在此后的大运动中，再次受到冲击，直到1974年解放，1975年恢复工作，担任两年顾问。1977年二度担任秘书长，准备大干一场时，因为赴德国治疗腿疾，终因心梗故去。如果没有那次意外，麾下大刀阔斧为军队拨乱反正加快速度，使得军队走向正轨。