1941年初，敌伪顽联合大扫荡，实行了五次“治安强化围剿”，展开政经济、军事、文化等“总力战”，烧杀掳掠，鸡犬不留，并到处安营扎治、寨，使岗楼碉堡星罗棋布，衔尾相望，火力相接。3月，敌四千余人“蚕食莱北，增设了王庄、雪野、上游等据点，仅在泰莱公路北和章莱公路西、人口不足十几万的狭小地带，即设口镇、寨里等大小据点36个。敌人沿泰莱公路修筑“封锁沟”“遮断墙”170里。在博莱、章莱公路段修起高墙、沟80余里，架设铁丝网，严密隔绝，并相继打通了莱芜境内各主要交通干线，完成了侵华日酋冈村宁次试图分割蚕食我根据地的计划。敌人频繁扫荡。我方损失重大，妥协气氛浓厚，大批国民党军投靠日军，暗中勾结夹击我军。百姓劫后余生，人心惶恐不安。年底，莱芜境内日军据点增至53个(另说57个)，伪军据点47个，会门据点(实为伪军)19个(说39个)，共119个修碉保179个，形成了密集的据点群和堡网。敌人妄图从根本上破坏我抗日军民生存条件。至年底，莱北县党支部被破坏46个，镇里区基层党组织被破坏殆尽。根据地急剧缩小。加之连年灾荒，粮食奇缺，饿死人口很多。在这种形势严峻，军情危急，人民群众处于危难之时，1941年12月，刘舜卿被上级调回莱芜任县长兼县大队长。他心有不舍。一是恋战，经过艰苦努力，莱东已显走好势头，他很想继续战斗下去。二是顾虑与莱芜县委主要领导配合不力，较难发挥。军令如山。他面对“白骨露于野，千里无鸡鸣”情势，“接任于恶战之际，受命于危难之间”。
情况容不得刘舜卿多想，必须立即投入斗争。他首先要求干部坚定抗日必胜的信念，克服右倾悲观情绪，鼓起斗争的勇气。他和其他领导一起，决定采取依靠群众，保存有生力量，准备长期斗争的新方针。战略上暂持守势:战术上灵活机动，斗争方式上公开与隐蔽相结合，改变机关形式，分散开展工作，到敌占区找掩护点，寻机打击敌人。他本人带一部分人，到口镇区中队长郑觉民坚持斗争的陶镇活动，并利用郭家芹村李兰玉与汉奸亓子美的亲戚关系，掩护隐蔽，择机斗争。他派县独立营副营长曲凯庆率队到雪野、白杨一带开展游击战，自己和县大队副队长杨仲起一道，大抓武装建设，围绕反扫荡、反蚕食、反自首开展了一系列斗争。这有力地配合了“四支队”等的军事行动，振作了莱芜军民的斗争情绪，扩大了抗日力量的活动范围，为莱芜抗日军民争取到生存空间。刘舜卿放手依靠曲凯庆等人扩充兵员、壮大实力，改编为三个营的县大队(独立营和县大队经常混称，按编制是县大队人数少时称独立营)，主要骨干有曲凯庆、杨仲起、周美光、周绍棠等。1943年初改称县大队，刘舜卿兼大队长。莱芜人的献身精神，及战火的千锤百炼使莱芜县大队成为一支钢铁子弟兵。
抗战胜利后，县大队全员编人主力部队。刘舜卿对这支队伍有着特殊的感情。他是个内敛之人，内心即使感情澎湃、热血奔涌，外表也不会情绪冲动、激情四溢。县大队升级、人编，他再也按捺不住感慨万千的情怀，在送别讲话中感情进发，说:“升编光荣，意味着你们将参加打大仗、打硬仗。这些对你们都不是问题，因为你们都是经战火燎烤、血泪洗涤的人，经受过生死考验。今后的考验是转战南北，远离家乡。你们参军后一直在家门口转战故土难离，乡情难舍啊。将心比心，我完全理解。我也舍不得你们。但作为革命者，我们要胸怀全局，放眼全国，为伟大的战略目标奋勇前进!”他还指出，苦难铸斗志，淬火铁成钢。莱芜的子弟兵是经苦水淬火的钢材，用在哪里都会成为锐利的钢刀。英勇莫过菜芜人。他激动得讲不下去了，奋笔写下'我的同志，我的战友，我的兄弟，祝你们在新的征程，创造更大的辉煌!他还附小诗一首《颂莱芜县大队》:“血战鹿鸣山，泪饮嘶马河。赤胆杀倭寇碧血献中华。”县大队升编不久，就随罗荣桓率领的山东大批干部、战士渡海执行与蒋军争夺东北的战略任务，人人成为坚强基干，红色种子。
一天，一位女干部闯进来。刘舜卿抬头一看，头戴八路军帽、身着大襟衣、腰扎皮带、斜背皮套驳壳枪，显得英姿飒爽，特别精干，原来是孙子秀，她见面就俏皮地说:“你当了县太爷，来报告报告工作。”刘舜卿说:“不须报告，你的事我都听说了。”孙子秀是孙启明的长女，从小就认识刘舜卿。刘舜卿和孙启明商谈抗日起义事宜时，16岁的孙子秀执意随父兄参加起义。刘舜卿劝道:“只要抗日，在哪里、干什么都一样。我就被组织留在地方了。莱芜的革命力量不能走空了。我们一起在地方干吧。”孙子秀勉强接受了刘舜卿的劝阻，参加了地方抗日。她于1938年春人党，后任莱芜雪野区妇救会长、副区长等，干得很出色。刘舜卿让陈勉甫报道一下孙子秀的事迹，以鼓励莱芜的妇女干部。很快,《前进报》(县机关报)就登了“十八岁的女区长”为题的文章。1942年，孙子秀被送入抗大学习，后随丈夫魏继周转战外地。战事再忙，统战不忘。1941年秋莱芜名人亓恩培当选泰山区参议长。当时形势紧张，危情四伏，刘舜卿千头万绪，战斗交叉不断，工作极为繁忙他却执意亲自到大官庄村为亓恩培送任职证书。路上他给警卫员讲，亓恩培是晚清举人、同盟会员，与范明枢等人积极支持社会进步活动和五四运动中的反帝爱国运动，蜚声各界。他曾当选为广州非常国会护法议员，参加过孙中山政府工作，制定各项除旧布新法令，联名发表“声讨陈炯明宣言”。日军侵占莱城，请其出山。他严词拒绝，转到抗日根据地任教。1940年当选山东省宪政促进会主任，并被选为国民大会代表和山东省临时参议会参议员。他是进步的榜样，抗日的旗子。
亓恩培对刘舜卿的到来非常兴奋，说:“你冒着危险，走这么远的路，来为老朽送证书。吾心不安啊。”刘舜卿说:“您是敌人心里一颗威力无比的炸弹。来看望您是应该的。”自此，刘舜卿的“仁义之举，情理中人”之称，随亓恩培的声誉，远播齐鲁。
战乱、灾害，人民极度困苦。为解困克难，1942年5月，刘莱夫率地委及12团部分干部在莱北茶业区开展减租减息和增资借粮斗争。缓解了群众生活困难，打击了日伪对我根据地的经济封锁，但军民经济困境未根本解脱刘舜卿采取了“取之不足，减少消费”的办法，通过减员来减负、脱困。8月刘舜卿坚持莱芜县“精兵简政”，至11月，动员安排大批老弱病残人员退伍精减机关人员三分之一以上，公粮征收数减少一半，大大缓解了经济压力刘莱夫在莱北领导减租减息时，刘舜卿根据多年战乱、土地撂荒、生产水平极低的实际情况，提出“富农不富，减租适度，地富有别，不伤感情”16字诀。无人重视，出现冲击中农现象，造成不良影响。刘舜卿感慨地指出:“我们队伍中经常是一种思想倾向掩盖另一种倾向，讲革命易出'左’，讲团结易出'右’。”“宁左勿右”的思想作风，是党内萌生的一股公害，如不克服，贻害无穷。
战争年月，部队分散，战事紧急，联络不畅，前后脱节，党政分离时有发生。这是战争特殊环境造成的。1942年9月1日，中央作出《关于统一抗日根据地党的领导及调整各组织间的关系的决定》，强调党的一元化领导。9月11日，莱芜县委进行整顿，进一步统一党对各项工作的集中领导，调整了各级党与各抗日组织之间的关系。有领导同志提出一切行动听县委指挥，刘舜卿在县委会上，毫不避嫌，大胆表示了对中央《决定》的理解和坚决执行的态度。他说:“党的统一领导，应主要体现在政治方向上、路线方针上、思想观念上、组织纪律上，不能机械理解为战斗行动上和具体问题上。战场情况瞬息万变，指挥员有权灵活机断处置。这就叫'将在外君命有所不受’。没有这项原则，必会贻误战机，造成战场被动。贯彻政策规定重在精神，要做到'松’、紧’相宜，收放适度。不能'紧’就把人捆死，'松’就导致涣散。”他强调，中央《决定》是提高我军政人员的政治觉悟和军事素质，最终表现在战斗力上。他重申，加强政治治理不能忽略军事斗争。军事上要继续采取敌进我进(敌人进攻我根据地，我乘机进入敌占区)，敌不进我亦进的翻边战术，发挥武工队的作用，深入敌后，充分利用各种矛盾，机动灵活地开展对敌斗争。为加强莱城及周边对敌斗争，刘舜卿建议县委成立“莱城工委”，并提名武工队长尚克东兼书记，使党的领导“一元化”，军政干部“一体化”1942年10月，敌人“蚕食”莱北，增设了猪石槽、温家庄等多处据点建立伪乡村政权。在“坐地清剿”的基础上，进行欺骗宣传，以杀害抗日家属、烧毁房屋等血腥手段，胁迫区、村党员干部向其登记“自首”，妄图从根本上摧毁我党群组织。部分党员妥协外逃，有些投敌叛变，基层党组织遭极大破坏。敌人在寨里召开了“和平建国万人归顺大会”，宣扬“胜利”。形势日益险恶,《鲁中区党委关于反蚕食反自首斗争的指示》下达，莱芜县委在贯彻中“脱轨走样”，布置“假自首”扩大了传达范围，造成误解和思想混乱。致使香山、华山、山口、水北、寨里等区党员误以为上级允许向敌“自首”从秋季至年底，有101名区委干部投敌。莱北县原有93个支部，被破坏63个。原党员5591人,“自首”叛变1274人，外逃、失联者计1343人。暗自脱离组织关系者难计其数。这给敌人“蚕食”、伪化造成机会。莱北根据地仅剩'东到腰关迷马镇、西到鹿野安子湾”的一条山峪。抗日陷入如此困境，县委应负首责。刘舜卿痛心疾首，指出“自首”是政治动摇、变节，所谓“假自首’是真变节，其恶劣影响，与真自首并无二致。指出县委有关人是在向敌营“驱鱼”“轰雀”。刘舜卿虽在事情上持异议，但作为县委主要成员，自责再三。敌人乘抗日阵营的混乱发起攻势。1943年1月6日，日伪军过万，分兵10路，包围莲花山区，安设据点20余处，构筑堡50余个，修筑公路6条3月，伪军吴化文率三万余人进占莱芜。抗日形势跌入低谷。敌人四乡喧器“八路已被消灭，剩下几个跑到北山，藏在荆棵丛里捡羊屎蛋子吃。”其器张气焰，无以复加。
1943年1月，上级派地委宣传部长高启云兼任莱北县委书记，接替刘夏峰。刘舜卿与高启云彼此有了解，配合相宜。当时，泰山地委决定开展民主文化运动。刘舜卿则向高启云大胆建言，把地委的决定先放一放，重点抓民主选举，改造村政权，使基本群众重新掌权，恢复信心，打好斗争基础。1943年2月，日伪向我根据地疯狂袭来，刘舜卿向高启云提出县机关“放低坐基，减少层次，加强基层”的设想。县委遂决定，由县委委员李元贞、李元荣兄弟二人分别兼任华山、香山区委书记。
刘舜卿在县委提出，敌人来势凶猛，但大部是伪军。莱芜的伪军势力庞大，敌占区主要靠伪军支撑。对待伪军要军事打击和政治瓦解并重，把攻心战作为这一时期的战略重点。他特意向李元贞二人强调，要大力争取、分化瓦解伪军政人员，对他们“人道”相待，施以感化，要学会挖他们的心、夺他们的志。刘舜卿要羊里区区长杨仲起署名，向伪政人员普发了“身在曹营心在汉”之《敦促书》，反响很好。杨仲起是位战斗风云人物，威盛全区。刘舜卿知其文字水平、斗争经验都不错。果然,《敦促书》写得不俗，语句生动感情真切，说理充分、发人深省。收到杨文者，多人做出积极表示。永宁乡伪乡长来信向我政府表示不做坏事。羊里乡伪乡长开始为我提供情报。临汇乡伪乡长向伪区长提出辞职。仪封和仪封洼村伪村长派代表主动与我区政府联系，秘密缴纳抗日粮款。辛汇乡、陈村乡伪乡长也口头向我政府表示不做坏事。不久，刘舜卿把杨仲起、周绍棠调到县大队任副大队长，尽量把开展武装斗争的事“甩给他们”，使莱芜军事斗争更有起色，恶劣形势有所转化。3月上旬，莱芜县承地委部署，总结了对敌斗争经验，乘势开展春季攻势。3月中旬，我军主力一部，在一、五区中队配合下，利用内线关系，拔除了孝义伪据点，俘伪军一个中队。这些内线关系多为刘舜卿早已布设的“棋子”日寇侵华战线拉长，供给日益困难，便如饿狼捕食，到处乱抢。1943年4月，敌人到莱北雪野区抢粮，我军民防范有方，组织群众“空舍清野”，使敌人一无所获。党组织发动反抢粮斗争的胜利，鼓舞了莱芜军民斗志。春季攻势进展较顺利，摧毁了许多敌伪情报组织，争取了大批伪军和伪政权，开辟了“有敌人无敌区”“白皮红心”的隐蔽根据地。
1943年4月，省战工会下发《修正山东省乙种公平负担暂行办法草案》土地问题是中国革命的根本问题，如何处理土地问题也是抗日战争中争取民解决吃饭的基本问题。合理负担是为民减负的根本措施。刘舜卿甚解其心、意，特别重视。他与高启云深入研究，亲自部署丈量和登记土地工作。为使农民负担更趋合理，刘舜卿与时任泰山专署民政科科长的孙启明研究，经莱芜县委讨论决定，在莱芜县内推行按地亩累进征收公粮办法，即地多者多征地少者少征，且按应产量收税，不是按实产量收税，保证了增产增收。农民最高负担不超过收人的37%。这既保证了部队供应，又“合理分摊”，改善了以往我军政人员走到哪里吃到哪里，得到谁家的就吃谁家的，愿意出者多负担，不愿出者少负担等做法。
1943年春，泰山地委听取了刘舜卿的汇报，肯定了莱芜精简机关、充实基层的做法。地委组织部下派李健任雪野区委书记，魏伯愚任山口区委书记5月上旬，刘舜卿建议莱芜县委乘势下放县机关干部兼职，并提议县委委员黄仲华、财粮科长张鲁川、敌工部副部长李平笃、教育科长侯法曾(曾在全国贸促会工作，成为巴西“九颗红心”之一)、农救会长谢润生、青救会长边春光、县宣传干事杨化东等兼任或出任镇里区、水北区、寨里区、羊里区、方下区的书记或区长。同时，又派武装科长张心纯、原华山区委书记张建农组建武工队，建立张里区委，分任区长、书记。各区在区中队和民兵配合下积极向敌伪军开展政治攻势，以散发传单、喊话、记“黑红点”“枪打出头鸟”、利用伪军政人员家属开展攻心战等多种形式，教育和争取了许多伪军和伪政权，在敌内部普遍建立了“通共关系”。至年底伪军拐械投诚者30余人伪政权忠实于我、应付于敌的约占55%，效忠敌人者仅8%。刘舜卿要求县大队、公安局、武装科等，组织小股武装，深人敌区，开展隐蔽与公开相结合的斗争。他指出，在打击伪军政人员时，要划分米九等”，区别坏与最坏，分别对待、宽严结合。只要不是反动透顶的，“三教九流”也有利用价值。常言道，可以与魔鬼打交道，但要牵着魔鬼跑，而不能被魔鬼牵着跑。刘舜卿强调，政策和策略是党的生命，没有区别就没有政策，政策的力量是巨大的战斗力。在这一阶段的斗争中，涌现出诸多令人振奋的事例。莱城工委尚克东的队伍最为出色。他们打击的力度大，争取的策略多，神出鬼没、威震敌伪。莱芜县公安局，以李林泉、刘专一等组成5人特务班，人称“除黑队”，其内的侦察队长刘某某和毕德身等，乘寨里集市，化装潜入敌据点内，混入警所，处决了罪恶深重的伪警察所长石毓，震慑了敌伪，广大群众叫好，
1943年6月25日，鲁中区党委、军区政治部联合下达《关于总结整风开展党风学习的指示》，要求学好文件与反省坦白相结合，充分发扬民主，大胆发表意见。高启云和刘舜卿统一研究部署，分头抓县委、县政府机关。自八九月起，深入开展“整风坦白活动”，针对工作中的主观主义、宗派主义官僚主义，开展了批评与自我批评。对区级以上党员干部普遍进行了审查在进行中，刘舜卿反复强调，整风审干是为了从思想上、组织上纯洁我们的队伍，促进抗日队伍的团结，增强战斗力，不能夹杂不纯的意识和个人恩怨要严格遵循实事求是的原则。高启云支持刘舜卿的意见，整风活动开展得气氛和谐，效果良好。
1943年7月叛徒刘伯戈误判我整风为内斗，乘机勾结吴化文伪军，变本加厉地破坏我党抗战。地委决定，莱芜县组织精干人员及武装密切配合，开展反刘斗争。刘舜卿布置两个连的兵力拔除涝坡伪军和刘伯戈势力混合据点消灭其全部武装，活捉刘伯戈内弟、叛徒李光荣。反刘斗争取得了重大胜利，先后捕押、打掉刘伯戈的区长、县科长以上人员30余名。
1943年秋，抗日军民吃饭问题又凸显出来。莱芜县根据《山东省租佃暂行条例》，实行二五减租(减去原租额的25%)和分半减息(按一分半利率计息)。提倡缓期还债，职工和雇工的工资以养活一口至一口半人为最低标准动员有余粮的富户借粮给贫民，春借秋还。“减租减息”改善了佃雇农生活促进了基本民众的团结，激发了群众抗日积极性。年底，精兵简政，裁减几员，调整机构，安插老弱，再次精干了队伍，减轻了负担。在“咬紧牙关，度过困难”口号鼓舞下，顽强斗争，为应付困难局面做好准备
1944年1月15日，为扶持党政军民开展大生产运动，鲁中行署向泰山区发放春耕贷款140万元。莱芜大受鼓舞。2月，刘舜卿“借东风”建议全县大规模开展拥军爱民运动，动员参军，充实主力部队，扩大地方武装。至年底莱芜县有1.5万人参军。1944年4月3日泰山军分区公布战绩，春季作战325次，毙俘日伪军1643人。其中，莱芜战场实绩显著。高启云随后调任地委副书记，离别前握着刘舜卿的手说:“你不是在革命，是在拼命。”刘舜卿一时发怔，高启云补了一句:“拼命地战斗。
