一、就任新四军第5支队司令员
罗炳辉来到苏南敌后只有两个半月，突然奉调离职。1939年4月15日，他告别战友，经过长途跋涉，于19日返抵驻扎皖南泾县云岭的新四军军部。
罗炳辉在军部领受了一项重要任务：赴皖东敌后担任即将成立的新四军第5支队司令员，率部与兄弟部队一起开辟皖东地区。这是新四军领导人为贯彻中共中央“发展华中”和新四军“向北发展”的战略方针，适应当时皖东形势变化而做出的一项重要决策。
皖东地处淮南铁路以东、津浦铁路东西地区，襟江带淮，气候适宜，物产丰富，交通便利，具有极为重要的战略意义，在全国抗战爆发后不久即沦为敌后。日军自1937年12月13日侵占南京后，为了实现迅速灭亡中国的侵略计划，决心攻占徐州，打通津浦线，使南北日军连成一气。其第13师团加上3个联队沿津浦路北上，相继攻陷滁县（今滁州市）、来安、全椒、盱眙；第11师团则由瓜州攻占扬州，尔后进出天长。国民政府军事委员会第五战区以桂系第11、第21集团军和东北军第51军、西北军第59军等部在皖东、皖北正面战场组织抵抗，先后进行津浦铁路南段阻击战和淮河阻击战，一度迟滞了日军北犯的进程，但最终未能阻止日军的铁蹄。1938年1月中旬，日军占领明光；2月上旬，再陷临淮关、凤阳、定远、蚌埠。至5月14日和19日，合肥、徐州相继失守，津浦铁路南段全部陷入敌手。随后，国民党桂系军队撤人大别山区。
徐州失守后，皖东敌后空虚，出现了新四军江北部队继续向东发展的有利时机。5月22日，中共中央书记处发出《中共中央关于徐州失守后华中工作的指示》，要求在长江以北鄂豫皖三省有计划地建立几个游击区，使第4支队成为这一区域的抗日主力。
为了贯彻中共中央关于第4支队向皖东敌后发展的指示，加强对第4支队的领导（因武汉失守后中共中央长江局撤销，原由长江局直接领导的新四军江北部队归军部直接领导），11月，新四军参谋长张云逸奉命率军部特务营的2个连从皖南抵达江北无为地区，视察了第4支队。12月，张云逸赴立煌县（今金寨县），经与国民党军第21集团军总司令兼安徽省政府主席廖磊谈判达成协议，新四军第4支队到皖东津浦铁路南段两侧活动，并留一部在无为、庐江地区。随后，将庐江、无为地区游击队一部和军部特务营的2个连整编为新四军江北游击纵队，担负皖中地区的抗战任务。1939年1月，张云逸从立煌转赴舒城西港冲，动员第4支队司令员高敬亭率支队主力东进皖东。高敬亭只同意派部分部队开到合肥以东一带活动，支队指挥机关仍留在舒城地区。3月，支队参谋长林维先、政治部主任戴季英率支队司政机关和特务营来到合肥青龙厂（今属肥东县）和定远县吴家圩子地区，指挥已在当地的部队作战。高敬亭率支队后方机关、教导大队和第9团，仍驻皖中舒城西港冲。
在张云逸到达江北之前，新四军军部遵照中共中央的指示，已命第4支队第8团率先挺进皖东。1938年8月，第8团南舒城西汤池等地出发，9月越过淮南铁路进入皖东，先后在肥东、巢北、含山、全椒、滁县一带展开。1939年2月中旬，张云逸率支队战地服务团和第3游击纵队抵达第8团驻地合肥以东梁园镇，向第8团领导干部进一步阐述了中共中央和新四军军部关于东进的战略方针。为适应形势发展的需要，迅速开辟皖东地区，张云逸直接指挥第8团和第3游击纵队的作战行动。2月下旬，第8团由淮南铁路东侧进至津浦铁路西侧地区。4月下旬，以第8团第1营为基础，加上警卫营，恢复了一度撤销的挺进团建制。
其时，撤退到大别山区的国民党桂系军队站稳脚跟后，开始向皖东敌后渗透，并派出专员、县长，到各地恢复政权，收编土杂武装，扩充势力，企图把新四军挤出皖东地区。而新四军第4支队司令员高敬亭在部队发展方向上，与军部有不同认识，该支队在内部关系上也存在一些问题。为了解决第4支队内部存在的问题，推动该部迅速东进皖东敌后，同时加强对江北部队的领导，整理江北新四军，军部决定由叶挺军长率一批干部去江北指导工作。在此前后，项英和叶挺于3月底至4月中旬多次向中共中央、中央军委提出关于开展江北工作的建议，主要包括：①组建新四军江北指挥部，由军参谋长张云逸兼任指挥，统一指挥第4支队、即将组建的第5支队以及江北游击纵队；②以第8团为基础扩建组成第5支队，调第1支队副司令员罗炳辉担任司令员，中共鄂豫皖边区区委书记郭述申为政治委员，第8团团长周骏鸣为副司令员；③成立中共新四军江北前敌委员会，以张云逸为书记，罗炳辉、赖传珠、周骏呜、林恺、戴季英、郭述申为委员，直属新四军分会；④江北指挥部政治部及第5支队政治部之主任均无合适人选，请中央设法解决。4月20日，项英主持召开中央军委新四军分会会议，再次讨论以第4支队第8团为基础组建第5支队的问题。
中共中央基本同意新四军军部的建议，并在4月21日以中央书记处名义发出的《关于发展华中武装力量的指示》中指出：“华中是我党发展武装力量的主要地区，并在战略上华中亦为联系华北、华南之枢纽，关系整个抗战前途甚大。”“新四军在江北指挥部应成为华中我武装力量之领导中心，除指挥我原有武装外，更有建立及发展新的队伍之任务。”“希望东南局及新四军领导同志顾全全国局势及华中之重要，抽调大员及大批干部到江北。”
罗炳辉完全拥护中共中央的决策和新四军军部的部署，非常渴望与第8团指战员再次相聚、并肩作战，也深深感到自己肩上担子沉甸甸的份量。
4月25日早晨，一场淅淅沥沥的春雨过后，罗炳辉随同叶挺军长由皖南泾县云岭动身前往江北，同行的还有军政治部副主任邓子恢、参谋处长赖传珠等一批干部。此后，叶挺一行突破日军长江封锁线，于5月6日进抵庐江东汤池，与张云逸会合。5月7日，叶挺召开干部会议和共产党员会议，宣布新四军江北指挥部成立，以张云逸兼指挥、赖传珠任参谋长、邓子恢兼政治部主任，统一指挥新四军在江北地区的部队。不久，以张运逸为书记的中共新四军江北前敌委员会也正式组成，罗炳辉为委员之一。江北指挥部和江北前敌委员会的成立，使江北新四军有了统一的领导核心，为新四军在江北的发展提供了组织上的保证。
江北指挥部成立后，叶挺、张云逸继续督促高敬亭率部东进。5月底，第9团、特务营和淮南抗日游击纵队进到青龙厂地区。6月4日，高敬亭率支队后方机关和教导大队亦到达青龙厂。至此，第4支队全部进入皖东。
与此同时，江北指挥部按照经中共中央批准的方案，开始着手对在皖中和皖东活动的新四军各部统一进行整编。
按照新四军军部的指示和经批准的整编方案，罗炳辉以其特有的雷厉风行而又深入细致的工作作风，紧锣密鼓地投入到第5支队的筹建工作中．，他首先来到第8团驻地，看望部队，与干部座谈，详细了解情况，征求大家意见。接着，他会同稍后到来的郭述申，反复研究各级干部的配备，仔细拟制部队编制方案。经过批准，以郭述申为书记，罗炳辉、周骏鸣、方毅、赵启民、林恺等为委员组成第5支队军政委员会，受江北前敌委员会（后改为皖东军政委员会）的领导；以第8团团部为基础组成第5支队司、政、后机关。
6月下旬，叶挺、张云逸亲临定远县藕塘镇附近第8团驻地视察，并在徐小集参加了军民联欢会。叶挺还在第8团营以上干部会议上作了关于形势和任务的报告，详细地阐述了东进的重要性和组建第5支队的意义，强调在执行统一战线中，必须坚持独立自主的原则，贯彻既联合又斗争的方针。他针对刚在5月份发生的“金神庙事件”，即新四军抗日东进大队（同年2月由巢县抗日自卫大队改称）遭到国民党顽军第10游击纵队第1支队刘子清部公然围攻，并被缴去1个连枪支的事件，严肃批评了某些领导干部对顽军的无理进攻，不进行自卫还击的错误。叶挺的讲话，提高了与会干部对中国共产党的战略方针、统一战线政策和斗争策略的认识，对即将成立的第5支队未来发展具有深远的影响。①
7月1日，新四军第5支队在定远县藕塘镇安子集宣布正式成立。该支队由原第8团为基础扩编而成。司令员罗炳辉，政治委员郭述申，副司令员周骏鸣，参谋长赵启民，副参谋长冯文华，政治部主任方毅（后张劲夫），政治部副主任林恺（后龙潜）。支队辖第8、第10、第15团和1个教导大队，其中：第8团由原第8团改编而成，团长周骏鸣兼，政治委员陈庆先，副团长罗占云，政治处主任祝世凤；第10团由原挺进团改编而成，团长成钧，政治委员徐祥亨，参谋长宋文，政治处主任王善甫；第15团由原第3游击纵队（不含军部特务营）改编而成，团长林英坚，政治委员刘景胜，参谋长谭知耕（后胡定千），政治处主任方中立；支队教导大队由原第8团教导大队改编，大队长张翼翔，教导员文明地（后王敬群）。全支队共3000余人。成立大会召开这天，晴空万里，风和日丽。会场上，指战员们席地而坐，歌声、口号声此起彼伏。当罗炳辉和其他领导步入会场时，全场立刻肃静下来。罗炳辉微笑着挥手致意，一个连队接一个连队地亲切询问。他望着眼前这支英姿勃发、充满朝气的队伍，不由地心生感慨：一年多前，自己曾受中共中央长江局和周恩来的委派欢送第8团东进抗日；现在，他将亲自指挥这支部队继续东迸，为驱逐日寇、解放国土而战，为中华民族的自由独立而战。
在热烈的掌声中，罗炳辉发表了热情洋溢的讲话。他说：经党中央、毛主席批准，新四军第5支队正式成立了！我们这个支队，虽然国民党不承认，但人民群众承认。我们要坚持独立自主的原则，发展壮大人民武装力量。为了更好地完成东进抗日任务，必须搞好整训，提高杀敌本领。
第5支队是在中共中央的英明指导和新四军军部的亲切关怀下组建起来的，是贯彻执行中共中央关于东进方针的成果；也是排除了王明“一切经过统一战线”“一切服从统一战线”右倾错误的干扰，在敌后地区独立自主地发展人民抗日武装力量的成果。这支部队的诞生，为新四军继续向东发展，开辟津浦路东地区，创建皖东抗日根据地，奠定了重要的力量基础。
在第5支队组建的同时，新的第4支队也在原第7、第9团的基础上扩编而成，支队司令员由6月中旬担任江北指挥部副指挥的徐海东兼任（11月到职，此前由戴季英代），政治委员戴季英（后郑位三），副司令员林维先，参谋长谭希林，政治部主任戴季英兼（后何伟），副参谋长赵俊，辖第7、第9和14团。稍后，江北游击纵队也确定了编制，由孙仲德任司令员，黄岩任政治委员，桂逢洲任参谋长，桂蓬（黄育贤）任政治部主任，辖第1、第2两个大队，约1500余人。9月中旬，江北指挥部下令，把新四军军部从江南派到江北活动的第4团第1营划归江北游击纵队建制，编为第1大队，其原第1、第2大队依次改为第2、第3大队。这样，经过对新四军江北部队进行整编，江北指挥部下辖第4、第5支队和江北游击纵队，共9000余人。
这一时期，在整顿原第4支队的过程中，曾发生了该支队原司令员高敬亭被错杀的问题。罗炳辉对此深感惋惜。
