1960年10月,陈赓陪同周恩来接见了第一批被特赦的国民党战犯。在接见的会议上,陈赓和周恩来向战犯们讲清了国民党失败的原因。被特赦的战犯大部分都是陈赓的同学,他们都表示毁过自新。
1960年,陈赓突发心脏病。中央请他到上海养病,在上海养病期间,陈赓见到很多当年在上海工作时的老朋友、老同事。他还见到了刚释放出狱的杨登瀛,对杨当年为党工作表示了肯定。
1961年初,陈赓依照中央指示,开始撰写自己的作战总结。他不停的工作,导致身体状况恶化,于1961年3月16日逝世。