为了培养起义的骨干力量,彭德怀向周磐力荐黄埔军校毕业生黄公略创办随营学校。好友多年未见,彭德怀设宴为黄公略接风,黄公略随身带着中共广东省委的介绍信。部队奉命开赴平江,彭德怀决定在平江组织武装起义。临行前,彭德怀让妻子刘坤模随弟弟一起回老家。
为了更好地指导起义,中共湖南省委特派员滕代远化装成商人来找彭德怀。正当起义有条不紊地筹备时,国民党特务查到了长沙的一个共产党地下机关,从中搜出了黄公略的亲笔信,彭德怀处在危险之中。
1928年7月22日,彭德怀率领800勇士冲进平江城,解除了平江军警2000人的武装,工农红军第五军正式成立。彭德怀任军长,滕代远为党代表。
湖南省主席鲁涤平急令张辉瓒对彭德怀领导的红五军进行“围剿”。