1932年2月，聂荣臻调任中国工农红军第一军团政治委员，林彪也同时接替朱德出任第一军团军团长。从此，聂荣臻开始与这位比自己小8岁的军团长一起领导红一军团转战南北。

　　1932年4月，红一军团攻克福建第二大城市漳州。当时，为了进行下一步的战斗准备，“筹款子”成了部队一项主要任务。部队入城后，有条不紊地进行发动群众打土豪、扩兵、筹粮、筹款。然而，不愉快的事情发生了。有的部队在林彪的纵容下，对政策的执行一度搞得很混乱。一天，聂荣臻在街上看到，几名红军战士正在抽打一些商人。一些人光着身子，身上被打得青一道，紫一道。聂荣臻上前喝止，战士怯生生地说:“报告政委，这些老财不肯交款，军团长说……”

　　聂荣臻愤然找到林彪，说:“林彪同志，在红军里怎么能采取这种手段呢？这样，不仅得不到普通市民的同情，连工人、农民也不会拥护，政治影响很坏。”林彪突然反问:“那我们究竟要不要钱？政委同志，没钱就不能打仗。”

　　“钱，我们当然要，但我们不光要钱，还要政治。我们是红军，如果政治影响搞坏了，筹的钱再多，也是毫无意义的。”聂荣臻严肃地说。林彪不再吭声，在以后的工作中也有所收敛。部队也杜绝了只顾弄钱，不讲政策的倾向。

　　1934年10月，长征开始了。为了甩掉敌人的围追堵截，毛泽东四渡赤水，巧出奇兵，调虎离山，巧渡金沙江。这种打法，部队自然要多走一点路，疲劳一点，但可以蒙蔽敌人，让敌人对我军捉摸不透，使我军由被动变为主动。

　　林彪对这种高超的指挥艺术不理解，认为这是在走冤枉路，尽走“弓背”，不知走捷径。他还带头倡议搞了一股小小的风波。一天，林彪突然给彭德怀打电话:“德怀同志，现在的领导不成了，再这样下去，就要失败。你出来指挥吧，我们服从你领导，你下命令，我们跟你走。”林彪话音刚落，立即遭到彭德怀的严厉斥责。当时聂荣臻就在旁边。他针对林彪这种严重的反党倾向，警告林彪:“林彪同志，你是什么地位？你怎么可以指定总司令撤换统帅？我们的军队是党的军队，不是个人的军队，谁要造反，办不到。如果你擅自下令部队行动，我也可以用政委的名义下指令，部队可以不执行。”

　　林彪不仅没有接受聂荣臻的严肃批评和劝告，而且还在几天之后，竟然给周恩来、王稼祥写信，要求毛泽东下台。

　　1935年5月12日，中共中央政治局在会理县城郊外一个名叫铁厂的地方召开政治局扩大会议，除政治局委员外，彭德怀、聂荣臻和林彪都参加了这次会议。毛泽东对林彪的反党活动进行了严厉的批评。毛泽东说:“什么弓背路、弓弦路？乱弹琴。你林彪是个娃娃，懂得什么？！”

　　1935年，西北革命军事委员会主席张国焘凭借自己人多枪多，无理要挟中央。当年6月26日，中央在两河口召开政治局会议。张国焘根本不愿执行这次会议的决定。他企图挑拨一、四方面军之间和一方面军内部各部队的团结，准备把聂荣臻和林彪调离一军团，聂荣臻到三十一军去当政委，林彪到另外一个军去当军长。

　　聂荣臻得到信息后，告诫林彪，我们要注意张国焘想把我们“吃掉”。林彪突然板起脸来，说:“荣臻同志，这是什么意思？你这是搞宗派主义。”

　　聂荣臻说:“张国焘和中央的思想一贯不一致。我们应该时时警惕。我觉得这不是宗派主义，这是路线问题。”

　　一提到“路线”这根敏感的神经，林彪心头突地冒起一股无名火，他竟然猛地拍了一下桌子，“什么路线问题，你说他路线不对，那么，他为什么有那么多人呢？我们才几个人？一方面军才有2万多，他有8万多。”聂荣臻紧握的拳头也猛地在桌子上敲了一下，桌上的一个盘子震落在地，摔得粉碎:“人多就正确吗？蒋介石的人更多哩，难道蒋介石的路线更正确吗？”