1940年的皖东北，地处津浦铁路以东、洪泽湖以西，是连接华北与华中抗日战场的咽喉要道，这里却陷入群龙无首的棘手局面。当时境内有四支共产党领导的武装，四位负责人各有隶属，谁也不服谁：张爱萍率领新四军游击支队第四总队，彭明治带领八路军一一五师苏鲁豫支队，韦国清指挥八路军山东纵队陇海南进支队，江华执掌苏皖纵队。部队分属八路军、新四军两套系统，指挥体系割裂，兵力分散，面对日伪军和国民党顽固派的多重压力，很难协同作战。

中原局书记刘少奇急电中央，请求派遣一位有足够资历、能协调八路军与新四军的干部前来统一指挥。

中央最终选定黄克诚前来，这位久经考验的指挥员迅速南下皖东北，1940年8月奉命组建八路军第五纵队，自任司令员兼政治委员，对当地上万兵马实施统一整编。
黄克诚处事公允，统筹全局，妥善协调各路将领，将原本一盘散沙的武装凝聚成一支可以挺进苏北的劲旅，打开了华中抗战全新局面。

多年后的授衔印证了这段传奇：前来整合部队的黄克诚在1955年被授予开国大将军衔，当年皖东北四位司令之中，张爱萍、韦国清二人荣获开国上将军衔。