1939年5月,根据党中央指示,张云逸、叶挺、邓子恢、罗炳辉等在安徽省庐江县东汤池组建新四军江北指挥部,张云逸任指挥。1939年11月,新四军军部决定新四军第一、第二支队指挥机关合并组成新四军江南指挥部。陈毅任指挥,粟裕任副指挥,从此开始了陈粟的革命搭档征程。在江北指挥部的统一领导下,新四军第四、第五支队在淮南津浦路两侧携手开展敌后游击战争,打开了皖东抗日的新局面。到1940年底,新四军江北指挥部所属部队发展到近2万人。