1935年1月,遵义会议结束了王明“左”倾教条主义的错误领导,开始了以毛泽东为代表的正确路线的领导。会后,党中央和毛泽东于2月13日给中央苏区分局发来电报,指出:“放在你们面前的任务是坚持游击战争”,用它“坚韧地顽强地反对敌人的堡垒主义与清剿政策”。“应该承认中区(即中央苏区的简称——引者)目前环境的严重性”,“对游击战争的坚持性不足是最大的危险”。因此,必须“立即改变组织方式和斗争方式,使之与游击战争环境相适应”。“短小精干是目前的原则”。“庞大的机关应立即缩小或取消,负责人应随游击队行动”。
据瑞金市党史部门提供的资料,遵义会议后不久,毛泽覃根据中央分局的统一安排,率领一部前往福建长汀的四都区,与福建省委书记万永诚、军区司令员龙腾云率领的队伍会合整编,成立新的闽赣边界军区领导机构,毛泽覃是军区的领导成员。1935年二三月间,国民党又发动了第二次“清剿”,福建省级机关在四都也无法留驻了,先后搬迁到谢坊、琉璃、汤屋、小金、乌泥等小村庄。毛泽覃根据党中央和毛泽东的指示,曾经建议“放弃四都,将部队编成几个支队,四处袭击敌人,领导中心退到闽粤赣边的深山中去”。可是,万永诚却拒绝接受,结果两个主力团反而被敌人打散。
4月上旬,部队在长汀县腊口西分水坳被敌人包围,龙腾云、万永诚率领大部分队伍向东突围,毛泽覃率领一部分队伍担任掩护,然后向西突围。龙腾云、万永诚突围后,第二天在武平县梅子坝又被敌人包围,部队打散,龙、万在战斗中牺牲。毛泽覃率领一部分队伍完成掩护任务后,突出重围,到达田心,不料又遭敌伏击,队伍被打散。他迅速收集部分被打散的战士,摆脱尾追敌人,经过艰苦转战,来到长汀和瑞金边界的大山之中。
1935年4月25日,毛泽覃率领饥寒交迫的游击队穿山越岭,来到瑞金县黄鳝口附近一个名叫“红林”的大山之中。这天傍晚,他们来到高山上只有几户人家的黄田坑,晚上在老乡的帮助下,来到一个纸槽里过夜。深夜,毛泽覃把一个姓杨的战士叫到跟前,指示他说:“你到杉背坑去找陶古游击队,请他们明天到这儿来,一起攻打国民党的黎子岗炮楼,我们从那儿冲出去。”清晨,他又叫醒一个姓何的战士,派他出去侦查敌情。这时,敌毛炳文部二十四师汤团某部,在排长兼便衣队长秦坤的带领下,路过这里,发现草丛里躺着一个人,立即围拢上去。那个姓何的战士不及鸣枪报警就当了敌人的俘虏,供出在纸槽小屋里还有十几个人,十几条枪,其中有一个姓毛的司令。
敌人很快就包围了小屋。听到枪声,毛泽覃立即命令突围,他担任掩护。激战中,一颗子弹穿进毛泽覃的前胸。毛泽覃牺牲后,敌人从他身上搜出了染血的毛泽东和朱总司令的照片,还有入党证。