1959年，受庐山会议影响，彭老总被迫辞去国防部长的职务，暂时退出政坛，党中央随即开始遴选新的国防部领导人，以稳定国防大局。在此期间，中组部向毛主席推荐了4位同志，主席在经过认真思考、权衡后，将目光放在了林帅身上，林帅在军内享有崇高威望，且行政能力较为出色，是最适合执掌国防大权的人。
当然，人事安排需要经过多方商讨，毛主席并没有搞“一言堂”，在将林帅作为国防部长的备选人之后，毛主席也特地听从了其他人对林帅的意见。大多数同志对于林帅都极为推崇，在毛主席面前对他大夸特夸，唯独罗帅对林帅持有保留意见，罗帅表示林帅身体有漾，不一定能适应一线的繁忙工作，另外他的性格有些孤直，不善于团结同志们，倒有些搞“小圈子”的倾向。
罗帅和林帅两人在一起共事了数十年，从土地革命时期开始，他们两人便搭班子指挥红军作战，林帅主管军事，而罗帅主管政工，而在抗战、解放战争时，他们两人仍在同一部队并肩作战，携手战胜了一个又一个强敌。在外人看来，林、罗关系亲密，犹如手足兄弟，但实际上，林帅和罗帅的关系十分微妙，在解放战争中期，他们两人因为战术、战略上的分歧吵得不可开交，林帅甚至要求党中央将罗帅调走。
后来，党中央曾短暂将罗帅调到地方军区工作，并将徐帅派往东北协助林帅对抗国民党军。但不久之后，林帅又与徐帅产生了严重的冲突，党中央只好又将徐帅调离东北，同时将罗帅重新安排到东野担任要职，兜兜转转一大圈，林、罗两人又重新走到了一起。
而在长时间的相处中，罗帅也慢慢洞悉了林帅的性格，林帅比较内向，很少主动和别人交谈，总是一副心事深沉的样子，除此之外，林帅太过于霸道，凡事总是以自己为中心，很少听从旁人的意见。而国防部长平日里要和多个部门打交道，必须兼顾各方的意见和利益，林帅这样的性格根本不适合担此大任，因此罗帅希望毛主席另择一个能顾全大局的人来主管国防部。
可眼下各部门都缺人手，毛主席实在找不到更合适的人选，综合比较下来，还是林帅最适合当国防部长。在下定决心之后，毛主席便将相关意见转达中组部，中组部当即批准了对林帅的任命，大概半个月后，林帅办理完了所有交接手续，随即走马上任，主政国防部。
任期内，林帅一方面加紧对战略武器的研发工作，以增强人民武装的战略威慑力量；另一方面则强化部队的思想教育，凝聚官兵人心、提升部队士气，保持解放军的优良作风。而在1961年，为了进一步加强思政教育，林帅又接连发表了好几篇文章，号召全体官兵学习《毛选》，深刻理解毛主席思想、理论，争做新时代的好战士。
林帅此举本意是好的，但在一些具体措施上却稍稍有些“走偏”，比如林帅在文章中曾提到要“带着问题去读《毛选》”，这显然有些“画靶子射箭”的意味，在因果上完全倒置，甚至已经有了“教条主义”的倾向，罗帅对此很不理解，于是便在随后召开的军委工作会议上当众对林帅表达了反对意见。
与会的众人没想到罗帅会如此“直接”，一时有些错愕，不知道接下来该怎么办，于是便齐刷刷望向林帅。按理来说，在工作中有分歧是非常正常的，这是党内的民主的重要体现，但林帅却将罗帅的反对意见视为“顶撞”，脸色登时变得很难看，沉默了一会儿之后，林帅表示既然“带着问题去读《毛选》”这句话是错的，那就直接删掉，说完便立即起身离开，闹得现场很不愉快。
坐在台下的刘亚楼将军眼看着林帅和罗帅闹得很不愉快，不由得心生疑惑，明明是谈论问题，怎么会闹成这个样子。此事看似是一场小小的意见冲突，实际上已经涉及到路线问题，罗帅对于共产主义的理解非常深刻，他觉得无论是学习《毛选》还是其他理论专著，都应该与实践紧紧结合；可林帅有关思政教育的主张已经严重脱离实际，这其实是很危险的信号，果不其然，在1966年，林便走入歧途，成为动荡背后的“推手”，给国家带来了巨大灾难，而他本人也在1971年因意外身亡。
