新四军是中央红军主力长征后,留在南方坚持3年游击战争的8省14个地区的红军和游击队整编而成。下辖4个支队、10个团,共10329人。第一支队司令员陈毅,副司令员傅秋涛,参谋长胡发坚,政治部主任刘炎;第二支队司令员张鼎丞,副司令员粟裕,参谋长罗忠毅,政治部主任王集成;第三支队司令员张云逸(兼),副司令员谭震林,参谋长赵凌波,政治部主任胡荣;第四支队司令员高敬亭,参谋长林维先,政治部主任萧望东(后戴季英)。以后又相继建立了第五支队,司令员罗炳辉,政治委员郭述申,副司令员周骏鸣,参谋长赵启民,政治部主任方毅;游击支队,司令员彭雪枫,副司令员吴芝圃,参谋长张震,政治部主任萧望东,豫鄂挺进纵队,司令员李先念,政治委员朱理治,参谋长刘少卿,政治部主任任质斌。
新四军在抗战中不断壮大,取得了抗击日伪顽军的重大胜利,建立的华中抗日根据地不断得以扩大。国民党顽固派于1940年秋掀起第二次反共高潮,当局强令新四军北移黄河以北,暗中调集7个师8万余人包围新四军军部和皖南的部队。1941年1月6日叶挺、项英遵命率新四军北移时,在泾县茂林地区遭顽军围攻。新四军将士浴血突围,终因众寡悬殊、弹尽粮绝,9000余人约2000人分散突出重围外,其余大部分牺牲和被俘。叶挺奉命同顽军交涉被扣押,项英、袁国平、周子昆在突围中牺牲。新四军遭受了重大损失。这就是震惊中外的皖南事变。
国民党当局以新四军不服从命令,于1941年1月17日取销新四军番号。中共中央针锋相对,于1941年1月20日决定重建新四军军部,仍沿用新四军番号,任命陈毅为新四军代理军长,刘少奇为政治委员,张云逸为副军长,赖传珠为参谋长,邓子恢为政治部主任。在江苏省盐城县泰山庙成立新的新四军军部。编成7个师和1个独立旅,共9万余人。第一师,师长粟裕,政治委员刘炎,政治部主任钟期光;第二师,师长张云逸(兼),政治委员郑位三,副师长罗炳辉,参谋长周骏鸣,政治部主任郭述申;第三师,师长兼政治委员黄克诚, 参谋长彭雄,政治部主任吴文玉(吴法宪);第四师,师长兼政治委员彭雪枫,参谋长张震,政治部主任萧望东;第五师,师长兼政治委员李先念,参谋长刘少卿,政治部主任任质斌;第六师,师长兼政治委员、政治部主任谭震林,参谋长罗忠毅;第七师,师长张鼎丞,政治委员曾希圣,副师长傅秋涛,参谋长李志高,政治部主任何伟;独立旅,旅长梁兴初,政治委员罗华生。1943年12月22日将在浙东地区坚持抗战的三北游击司令部所属部队改编为新四军浙东游击纵队,司令员何克希,政治委员谭启龙,参谋长刘亨云,政治部主任张文碧。1945年2月5日,成立苏浙军区,粟裕任司令员,谭震林任政治委员,刘先胜任参谋长,统一指挥苏南和浙东、浙西部队。
1945年8月15日,抗日战争胜利。1946年6月26日国民党政府向解放区大举进攻,中国共产党奋起自卫。新四军军部北移山东,兼山东军区领导机关。第3师进军东北,编入东北人民自卫军(东北民主联军)。第5师编入中原军区。其余部队分别编为华中军区、华中野战军和山东野战军。
1947年1月,中央军委为适应解放战争的作战需要,进行全军整编,撤销新四军番号。新四军兼山东军区与华中军区合编为华东军区,山东野战军与华中野战军合编为华东野战军。后来,部分部队改编为空军和海军。