军委扩大会议上的浓烈的火药味，使每一个挨批判的人都不能不违心地进行检讨。粟裕看得很清楚，坚持解释下去，自己的问题必然被归入敌我矛盾。面对强大的政治压力，粟裕不得不在第二次大会检讨时，把会议强加给他的罪名一一承认了下来。军委扩大会开始后，毛泽东曾向萧劲光征询对粟裕的看法。萧说“粟裕为人正派，没有二心”。毛点头赞同。此后毛又讲了句公道话：“粟裕同志战争年代打仗打得好，是为公的。到北京以后是为公还是为私？不能说都是为私吧！”因此，陈毅在听了7月14日粟裕的第二次大会检讨之后，主动走上前去握着粟裕的手说：“讲得很好。”并且带头鼓掌，表示通过。次日，陈毅又在大会上讲：“昨天他的检讨，我觉得很好。如果说我和他有很大的分歧，经过昨天他的检讨，造成了我和他重新团结的基础，我个人表示欢迎。过去他在三野军事上贡献是很大的，这是不能抹杀的，战场指挥搞得很好，主要是打胜仗的。他转了就很好，欢迎他这个态度。”

    不过，粟裕并没有因此得到解脱。军委扩大会议虽然于7月22结束了，仍有人继续在中央领导中施加影响，把“告洋状”进一步诬为“里通外国”。这就使毛泽东对粟裕产生严重的不信任。不久后，毛泽东甚至在一次中央会议上把粟裕作为军内的“坏人”点了名。结果，8月31日，中共中央政治局通过了“解除粟裕总参谋长职务”的决定，并决定将他的“错误”口头传达到军队团一级、地方地委一级。　1958年中共中央决定撤销粟裕总参谋长的职务，调离总参时，一位中央领导同志找他谈话明确讲，今后你就到军事科学院去工作，在那里搞学术研究，不必到部队去跑了。可以看出，粟裕连接触部队的权利都没有了。此后他长期任闲职。

    对于粟裕以前的战功，自然也能抹则抹。若干军史出版物把解放战争中明明是粟裕提的重要建议和他指挥的重大军事行动，笼而统之地改写成“华东野战军”、“华野首长”。解放战争中粟裕有三分之一的时间代理华野司令员兼政委职务，有些正式出版物根本不提。1958年原华东军区和华野的主要负责人，在苏中有的县提及粟裕和“七战七捷”的信件上正式批示：“这并不好，也无必要”。也就是说，粟裕指挥的，曾经得到毛泽东高度评价的“七战七捷”，由于粟裕有了“错误”，也就被从历史上抹去了。

    粟裕被错误批判和撤职一年后，彭德怀、黄克诚等就在庐山会议上被打成了“反党集团”。这时，有的老战友劝粟裕把1958年受错误批判一事提出来。粟裕却明确表示：“我不愿彭德怀受批判的时候提我自己的问题。我绝不利用党内政治风浪的起伏。我相信自己几十年的革命实践足够说明自己！”

    1960年1月，粟裕应邀参加中共中央在上海举行的政治局扩大会议。毛泽东在会上讲话时还特地转过脸来朝着粟裕说：“粟裕呀，你的事可不能怪我呀！那是彭德怀他们那个千人大会搞的。”对此，粟裕十分兴奋，认为这等于毛泽东代表中央给自己平反。然而，中共中央并未就此发出指示和作出决定，有的领导人对粟裕仍旧持怀疑和不信任态度。包括他经过呕心沥血的研究，为国家防务和军队现代化建设提出的许多重要建议，也未能得到有关部门的重视，使他的军事才华未能得到应有的发挥，起到应有的作用。种种不公正对待，长期心情压抑，使粟裕的身心健康受到了严重的损害。