朱培德部突破陈炯明部的包围后，经过湖南临武、蓝山、道县，进占广西全州。讨伐陈炯明作战失败后，孙中山乘英舰摩轩号转道香港，然后乘俄国皇后号邮船前往上海。9月5日，孙中山函令朱培德攻取桂林，为重新聚集讨伐陈炯明的力量做准备。
由于罗炳辉为避免滇军遭敌合围做出了重大贡献，朱培德对他更加器重，觉得罗炳辉有德有勇有谋，是一个不可多得的人才。因此，一路上派专人照顾因劳成疾的罗炳辉，还将自己的坐骑让与罗炳辉乘用。到达全州时罗炳辉的病才痊愈。为使罗炳辉受到历练，朱培德决定让罗炳辉去连队带兵，任上尉连长。但罗炳辉奉命到达任职的团部时，被告知连长位置暂无空额，任命其为中尉排长。随即部队向桂林进发。
此时，占据桂林的是号称“广西自治军”的土匪武装梁华堂部约万余人。罗炳辉的排为进攻东门的尖刀排。10月1日，罗炳辉率领全排突破敌人密集的火力网，越过漓江上的永济桥，迫近桂林城东门，采用火攻，焚烧城门。他命令两个班乘浓烟从城门两侧搭起云梯爬上城墙，自己带领一个班在正面乘城门被烧倒时，穿越烈火冲进城内。当时，他衣服眉毛都被燃着，成了火人。可他全然不顾，勇猛冲杀，一举歼灭了东门的守敌，成功地为后续部队开辟了进城的通道，接着他带领全排乘胜追击。经一夜巷战，朱培德部以很小的损失占领桂林城。因罗炳辉在这次攻城作战中身先士卒、指挥有方，立下了头功，获得滇军的勇敢奖状。
1922年12月初，滇军朱培德部与杨希闵部联合，同桂系将领刘达庆、刘玉山、沈鸿英部组成滇桂讨贼联军，向广东进军。朱培德部从桂林开往浔州，与由柳州下来的杨希闵部会合，经滕县进军梧州，驻梧州的粤军陈章甫第4师倒戈，联军继续沿西江东下，一路势如破竹，陈军丧失斗志，一触即溃，联军逼近三水。陈炯明见大势已去，于1923年1月15日通电下野，退往惠州。16日讨贼联军进驻广州，并相继控制西江和北江地区。联军将领和广东各界纷纷致电孙中山，请他回粤主政。2月21日，孙中山回到广州重组革命政府。3月2日，孙中山重建陆海军大元帅府大本营。鉴于联军滇桂军之间矛盾重重，特别是沈鸿英妄想独霸广东政权野心开始暴露，为保证大元帅府的安全，孙中山将滇军朱培德部编为“大本营拱卫军”，任命朱培德为大本营拱卫军军长兼大本营参军长、代理军政部长。朱培德提升罗炳辉为上尉连长。不久，罗炳辉奉命率领全连调防孝平兵工厂，任少校护厂队长，部队扩编为4个连。护厂队不仅保护工厂，还负责当地的各种税收。收来的税，用于兵工厂的开销运转。这时，罗炳辉个人的薪金被提高到了7000元，但他并没有将它用来个人享受和扩大自己的积蓄，而是将它全部用于改善部队装备和作为训练补贴，“总以事业、民众利益为前提，最努力地负责地整理部队”①。罗炳辉“打仗不怕死、带兵不惜财”的赞誉在滇军中广为传播。
4月13日，早已和北洋军阀秘密勾结的桂系军阀沈鸿英将军队集中于广州北郊的高塘、新街，并颁布戒严令，l5日宣布就任北洋军阀北京政府的广东督办，通电要求孙中山下野，率部进攻广州。朱培德的大本营拱卫军奉孙中山之命参加平定沈鸿英叛乱的作战，经激战击退进犯广州的沈军，进占新街；4月18日，拱卫军协同粤军打退进犯三水的沈军；30日，拱卫军协同粤军围攻清远，沈军败逃。讨贼联军乘胜占领英德和韶关。沈军和北洋军退人江西。5月中旬，北洋军阀吴佩孚调集赣南镇守使方本仁部入粤援沈，进攻英德县城。在战局十分紧急的关头，朱培德将罗炳辉调到了英德作战前线任代理营长。罗炳辉带领全营顽强抗击敌军进攻，一周时间内击退了敌人的多次猛烈进攻，进攻之敌损失惨重。罗炳辉总是在最前线指挥作战，两处受轻伤，坚持不下火线，因此虽然全营伤亡过半，士气仍然高涨，坚守阵地。朱培德对罗炳辉顽强的战斗精神和高超的指挥才能大加赞赏，将新增援的一个营交于罗炳辉指挥。他立即率部发动反攻，此时敌已处于三面包围孤立无援之势，挂出白旗乞求停火谈判。罗炳辉只带一名护兵进入敌营，“想晓以利害劝敌投诚”，不料敌援军赶到，接应被围之敌退向江西，并将罗炳辉扣押作为人质，关进了赣州监狱。
罗炳辉被囚禁了9个月之后，于1924年2月得知依附了吴佩孚的原滇军将领杨如轩到江西活动，即致信杨如轩求助。杨认为罗炳辉是个可用之才，致电方本仁将罗炳辉保释出来，任命为营副兼连长。同年11月，由于江西督军蔡成勋电请北洋政府撤换赣南镇守使方本仁而引起方的不满，时值第二次直奉战争，由于冯玉祥的倒戈，直系曹琨、吴佩孚政府垮台，段祺瑞取而代之，蔡失去了后台，方本仁联合倒蔡。杨如轩任命罗炳辉为团副兼支队长，率部作为先遣队由赣州向抚州攻击前进。罗炳辉亲自率100余名精干士兵夜袭抚州，蔡部守军有4团多兵力，由于实力相差悬殊当夜未得手，拂晓前即退至离城30里处整顿部队。蔡部由南昌退来之兵，纪律极差，人民反对，又不了解罗炳辉进攻部队的虚实，第二天即弃城退走。罗炳辉率部占抚州并马上追击，打得蔡部丢盔弃甲，前后共缴枪500余支。1925年2月，部队经漳树到吉安，罗炳辉得知朱培德部北伐部队曾于1924年12月攻占吉安，1925年1月在方本仁反攻下退向粤北，部分失散或被俘的官兵还流落在吉安，就亲自去慰问这些人，并资助路费和食宿费，设法送他们回广东朱培德部，共用去了自己的积蓄2000多元。1925年春，部队回到赣州，一次事变又促成罗炳辉回到广东朱培德部。事件是由于杨如轩的亲信排挤罗炳辉而引起的。罗炳辉尽管在杨如轩部任职不久，但他处事公道、赏罚分明，对上敢于抵制各种贪污腐败行为，对士兵和驻地民众则敢于为他们的利益说话，因而一方面深得士兵和民众的拥护，另一方面又引起了一些同僚特别是贪腐官僚的不满，这部分人又多是杨如轩的亲信。他们得知罗炳辉资助北伐部队失散官兵后，以罗炳辉通敌的罪名告发他，这一消息传出后，拥戴罗炳辉的数百名士兵哗变，罗炳辉被兵变队伍裹走。这些士兵大部分是北方人，他们请求罗炳辉带领他们回河南，并说一定能得到一个师长的职位；再一个罗炳辉如将兵变队伍带到滇军朱培德部，也一定能得到重用。但此时罗炳辉觉得杨如轩对自己是有恩的，无论如何不能做有负于杨如轩的事情。因此他设法离开了兵变队伍，冒着被扣上发动兵变罪名处死的危险去见杨如轩，以证明自己的为人。杨如轩虽然相信罗炳辉所说的情况，但毕竟反对罗炳辉的人都是自己的亲信，因此暗示罗炳辉赶紧离开赣州。罗炳辉别过杨如轩，化装成小商贩随着逃难的人群离开赣州，返回了广东。
罗炳辉到达广州时已是1925年7月，这时已身无分文，连吃饭和住店的钱都没有了，他决定去投奔自己的老上司朱培德。经多方打听，找到了朱培德的住所，他对卫兵说要见朱将军，开始卫兵见他衣衫褴褛没有理睬，他就以命令的口吻对卫兵说：“我有特别口信给朱将军，他派我去江西执行任务，如果我现在不能见他，我必须给他留言。如果耽误了，你要负全部责任！”卫兵听他这样一说，虽还有点半信半疑，但还是把他带到了会客室，并给了他纸笔让他留言。这时一个军官来见朱培德，卫兵试图让罗炳辉回避，正好朱培德从会客室的楼上走下楼梯招呼客人，看见罗炳辉又惊又喜，紧握着罗炳辉的手说：“我们都以为你死了呢，前年就为你开了追悼会！”罗炳辉谈了自己的经历后，朱培德肯定罗炳辉的行为，并对罗炳辉说了许多勉励的话。随后委任罗炳辉为少校副官，留在军部工作。
此前，中华民国国民政府已于7月1日在广州正式成立，当天发表了《中华民国国民政府成立宣言》和《中华民国国民政府第一号通告》，国民政府采用委员制，朱培德被推定为16名中华民国国民政府委员之一。7月3日，国民政府军事委员会成立，朱培德为8名军事委员会成员之一。随即军事委员会决定整编军队，取消以省为别的各式军队名称，统一称为国民革命军，共编5个军，每军编3个师，每师编3个团。朱培德部滇军被编为国民革命军第3军，朱培德任军长，辖第7、第8、第9师。但朱培德原有部队员额最多只能编满2个师6个团，扩充兵员成为朱培德的一个当务之急。1925年10月，朱培德任命罗炳辉为征兵主任。罗炳辉上任后即千方百计招募兵员，除了在社会上招募外，特别注意收编杨希闵、刘震寰叛乱失败后被俘和溃散的官兵，在较短的时间内招募取得了相当大的进展。对此，朱培德非常满意，不久任命罗炳辉为警卫营中校营长。警卫营是朱培德部中最精锐的一个营，不但装备精良，而且官兵也是精挑细选的。士兵中许多是久经战阵的骨干，连排长都是讲武堂毕业的尖子生，战斗力强。
通过北伐实现国家的统一，是国共两党达成的共识。1926年3月18日，国民政府军事委员会决议准备北伐。4月16日，政府委员会与军事委员会举行联席会议，蒋介石被任命军事委员会主席，会议决议由蒋介石、朱培德、李济深3人筹备北伐。北伐进入了紧张的准备阶段。为此朱培德对第3军进行了整顿。罗炳辉任营长的警卫营改编为由朱培德兼任师长的第9师第25团第2营。作为主力营，不但武器装备得到进一步的改进，而且加强了政治工作人员的配备。
6月4日，国民政府任命蒋介石为国民革命军总司令；7月1日，下达了作战计划。北伐的直接作战目标为盘踞在两湖等地的直系军阀吴佩孚部和盘踞在东南5省的皖系军阀孙传芳部。国民革命军共辖8个军约10万人。决定采取集中优势兵力、各个击破的作战方针，先取两湖。7月9日，国民革命军在广州誓师，标志着北伐战争正式开始。
北伐誓师之前，朱培德之第3军即尾随第4军经乐昌向湖南进发，全军共6个团参加北伐：第7师3个团、第8师2个团，第9师1个团，即罗炳辉营所在的第25团。第3军的集中地为湖南茶陵，任务是监视江西方面敌人，并策应正面两湖战场。当时，湖南的农会在共产党的领导下正在蓬勃发展，北伐军所到之处，受到各地农会和各界民众的热烈欢迎和大力支持。第3军每到一站，农会早做好了安排，宿营地早打扫干净；粮秣柴草，随到随领；行李辎重，有农会组织挑夫骡马逐站运送。经过人口集中的城镇时，民众敲锣打鼓、燃放鞭炮，夹道欢迎，到处是“打倒帝国主义”“打倒封建军阀”“打倒贪官污吏”“废除苛捐杂税”等标语口号。罗炳辉从军10年，从未见到民众如此拥护支持军队，他深受感染，也更加了激发了他为民众利益打拼的信念和决心。
7月中旬，国民革命军第4、第7、第8军相继攻占醴陵和长沙。7月14日，总司令部命令第3军改道衡州，乘船到株洲，再转乘株萍铁路火车到醴陵集中。8月2日，第3军全部到达醴陵集中。8月下旬，北伐军做出进攻江西的决定。9月1日，总司令部下达了总攻命令，令右翼军总指挥朱培德兵分3路分别向赣西、赣西北和赣西南进军，赣西一路即中路由第3军和第2军2个师组成，共26000人，以朱培德为总指挥，由醴陵出萍乡、安源，向宜春、高安方向进攻，得手后会攻樟树，进取南昌。
此时，孙传芳已调集苏、皖、浙三省的大半兵力于南浔铁路与鄂赣边界，与赣闽两省原有部队组成五省联军，共计5个师8个旅约10万余人。第3军进攻之敌为江西邓如琢部，该敌以唐福山师据守莲花、萍乡、万载为第一道防线，以谢文炳部据守安福、袁州、上高为第二道防线，以蒋镇臣师据守吉安，主力据守新喻、高安为第三道防线，层层拱卫南昌。
罗炳辉营所在的第25团，9月4日由湖南醴陵出发，4日达到萍乡县城西之罗家塘，经大义口、高溲里，迫江西萍乡敌之右侧背。萍乡守敌唐福山部5000余人惊恐万状，不战而逃，于5日深夜退驻宜春。6日上午，北伐军不费一枪一弹占领萍乡县城。10日午后，进至距宜春30华里的孟子桥附近与敌接触。敌军虽众，但慑于北伐军的声威，2小时后即退出宜春，向分宜、新余方向撤退。北伐军乘机发起攻击，歼敌一部，缴获大批辎重装备，当晚占领宜春，，
朱培德分兵3路向新余进攻前进，罗炳辉所在的第3军为左翼。敌邓如琢部在新余县城外之江口、洋津、仰天岗一带修筑坚固的防御阵地，做好了决战准备。从12日开始，北伐军与邓部激战3昼夜，双方均伤亡惨重。由于有民众的大力支援和民军的配合，北伐军士气高涨，奋勇冲杀，终于突破敌防御，敌终退往清江、樟树、高安。北伐军乘胜追击，18日攻占高安，19日攻取清江。
此时，北伐军程潜部第6军乘南昌空虚，令第17师突袭南昌，19日占领南昌。但由于是孤军深入，在敌增援部队的包围猛攻下，第6军腹背受敌，24日从南昌突围后退万寿宫一线收容整顿部队。朱培德第3军随即赶到万寿宫附近展开，占领阵地。
增援南昌之敌为孙传芳嫡系郑俊彦部，战斗力较强，总兵力4个混成旅约万余人，在夺回南昌后，立即进抵万寿宫一线，与朱培德之第3军对峙。
30日6时30分，敌向北伐军第3军阵地发起攻击，朱培德以第7师为正面于凤凰山、简山间抗敌，以第8师迂回敌之侧后，第9师为预备队。朱培德亲自至正面前线督战，至午后将敌逼退至万寿官西端约四五里一带，第7师乘胜追击。随后，敌增援部队加入战斗，双方再次展开殊死拼杀，激战至10月1日下午5时，仍处在拉锯战中。朱培德将预备队第9师第25团和第26团投入战斗，与敌展开肉搏战。第25团的主力营在罗炳辉带领下向进攻之敌发起冲击，带头杀人敌阵，与敌展开白刃战。罗炳辉的脖子受伤，鲜血将军装染红，他带伤指挥战斗，将进攻之敌击退。此后几天，他的脖子红肿，吃饭、行动十分艰难。副营长等劝他离队去治伤，可罗炳辉说：“战斗这样激烈，我怎能轻易下火线？怎能轻易离开战士们？”后来在上级的命令下，他才去接受治疗。待稍有好转后，又回到了指挥位置。
2日，担任右翼迂回的第8师猛攻，截断万寿宫守敌的退路。朱培德以第7师第19、第20团坚守阵地，以第7师第26团向万寿官突击，恶战至下午5时，终突破敌人防御阵地，占领万寿宫，敌全线崩溃，向万寿宫东北方向逃窜，4日第8师又在大庙击退敌增援部队。万寿宫大捷共毙伤敌2000余人，俘军官100余人，士兵500余人，缴获步枪1200余支、部分机关枪和火炮及大批弹药军需。郑俊彦部参战的4个混成旅战斗力削减大半。朱培德命第3军向生米街、牛行车站方向追击。
此时，北伐军已将作战重点从湖北转向江西，9月30日，第7军取得箬溪大捷后继取德安，第2军和第1军第2师进占樟树，三路对南昌形成合围之势。北伐军总部于10月4日下达总攻击令，朱培德之第3军的任务为以主力攻击牛行车站至乐化车站之敌。
牛行车站在南昌以北的南浔路南端，隔赣江与南昌相望，是当时南昌的终点火车站，进入南昌的重要门户，战略地位十分重要。孙传芳将其最精锐的第2、第3方面军驻在南浔路，牛行车站为战略行动的枢纽。同日，孙传芳由九江派两列火车运兵2000人至牛行车站构筑坚固工事。8日，牛行车站已经猬集敌军达6000余人，修筑了坚固的防御工事，挖了纵横交错的战壕，构筑了不少明碉暗堡，配置了许多轻重机枪。车站的正面是平坦的水田，给步兵进攻造成极大不利。10日，朱培德得到情报：敌还有3列装载援兵的火车正开往牛行车站增援，已达乐化。朱培德下令于11日发起总攻。
罗炳辉率领第2营担任主攻，战斗空前惨烈。敌人以炮火和轻重机枪组成密集的火网，进攻部队每前进一步，都要付出很大的代价。在九死一生的敌阵前，罗炳辉率领全营官兵奋勇冲杀，经3昼夜浴血鏖战，终于攻人牛行车站。但因协攻部队指挥官临阵脱逃，致使牛行车站得而复失。此时罗炳辉已多处负伤，但他全然不顾，怒吼着再次冲入敌阵，全营官兵士气大为振奋，跟随罗炳辉奋勇冲杀，再次攻下牛行车站。但此时北伐军总部鉴于进攻南昌各部损失严重，一时难以得手，下令撤围休整，罗炳辉营撤出牛行时，全营400人只剩80余人了。
北伐军经近一个月的休整和调整部署后，于11月1日再次发出向南昌和南浔路各重要地点总攻的命令。朱培德之第3军于11月2日接敌作战，3日经激战占领象山、朝天领、下罗家，蛟桥车站，5日向瀛上、牛行车站发起攻击，于7日攻占瀛上、牛行车站，截断了南昌地区孙传芳军的退路，进逼南昌城。8日，第3军从右翼攻人南昌，当日即全部肃清南昌城内之敌。罗炳辉在这次作战行动中带领敢死队冲锋在前，再次建立功勋。他英勇无畏的精神，深深地感染着身边的每一个人。时任第25团2营副营长即罗炳辉副手的胡彦在回忆罗炳辉的文章中记述了这样的趣事：蛟桥战斗后的一天，他们在一个小山脚吃午饭，一颗子弹不知从何处飞来，把他们饭桌上的菜碗打烂了，有人惊得目瞪口呆，罗炳辉却镇定自若，风趣地说：“这子弹真长眼睛，看来是存心不让我们吃饭了，快搬地方，不然我们饭吃不成，不把肚皮吃饱，我们咋个与军阀打仗呀！”说得大家哈哈大笑。紧张情绪一扫而光。胡彦对北伐中的罗炳辉作了这样的评价：
在北伐进军中，罗炳辉同志常常走在队伍前头。战时，他英勇无畏，在第一线指挥战斗，威严难犯；平时，他平易近人，非常乐观。
我与罗营长相处虽只数月，但他留给我的印象是很深刻的。罗炳辉是一个出身贫苦而富于正义感的军官。他为人正派、耿直、豪爽，厌恶那种捧上压下、欺软怕硬的行为，对那些欺压人民，骑在人民头上作威作福的家伙，尤为痛恨。他见难相助，喜欢打抱不平。他公正无私，对那些克扣兵饷、喝兵血的家伙，更是切齿痛恨。二十五团进驻南昌后，时值春节，士兵却还未领饷。罗营长非常同情士兵，义正词严地向上级提出意见，给士兵们发饷，由于他的坚决要求，当局不得不给士兵发了饷。
罗炳辉同志出身行伍，从当二等兵到营长，是硬打硬拼上来的，最了解士兵的心理和他们的苦楚，爱兵如子。他没有官架子，常与士兵谈心交心，打成一片，行军时常常把马让给伤痛员和落伍的士兵骑。他的所作所为，深受士兵的爱戴，在士兵中享有崇高的威望。
罗炳辉同志生活艰苦朴素，最厌恶吃喝玩乐。那时，他不抽烟，不喝酒，不打牌，纯正无邪。这种品质在当时军队里是难能可贵的。他是北伐革命军中的优秀健儿。
进驻南昌后，第3军进行了补充休整。1926年12月，第9师25团原缺的第1营成立，罗炳辉调任第1营营长。1927年1月，北伐军分3路进取浙江、上海、安徽、江苏、豫南。至3月下旬，长江以南的北洋军阀势力被扫除。罗炳辉所在的第3军第9师进军安徽，连克安庆、芜湖到达采石矶，攻占南京后，开安庆驻防。
