1948年莱芜全境解放后，国民党势力的散兵游勇、残渣余、伪乡武装恶霸地痞等组成小股，落草为寇，就地作匪，打劫骚扰，危及人民。6月，地委召开县委书记联席会议，确定莲花山为剿匪重点。刘舜卿在会上举例，名残匪，肆意作案，曾把两名受害人的头叠在一起，一枪打死两人。可见其凶残至极。他强调，一定要把日伪和国民党遗撒的政治垃圾和他们造成的污泥浊水统统打扫干净，还革命老区一片蓝天净土和百姓安宁。会议作出了《关于执行地委剿匪治安夏防工作指示的意见》。7月初，封振武根据刘舜卿提议军分区专门开会研究部署的意见，主持军分区召开地方武装会议，确定莱芜地方武装及民兵向莲花山清剿。莱芜县委雷历风行，7月2日传达了地委会议精神，并拟订了配合剿匪的计划。在县委书记会议上决定以徂、莲花山东岭山为剿匪重点。至8月，清剿数次，捕获匪特26名，瓦解匪特2000余人，缴枪240支，同时恢复整顿了民兵自卫团，对坏分子加强管制，组织群众保卫仓库、电线、交通之安全，安定了社会秩序
新政权刚刚建立，立足未稳。全国各地不断发生国民党反动派的残余势力蠢蠢欲动、造谣惑众、扰乱治安、破坏工厂设备、炸毁铁路桥梁、杀害党员干部的恶性案件，仅新解放区就有上万人被杀，形势严重，人心恐。特别是朝鲜战争爆发后，国民党布下的奸特、遗撒的残兵，奢望第三次世界大战爆发，蒋介石反攻大陆，疯狂活动，企图翻天。台湾大量派遣特务潜入大陆。为了打击反革命分子的器张活动，巩固新生的革命政权，保卫人民安全稳定人心，1950年7月23日，政务院和最高人民法院发布了《关于镇压反革命活动的指示》，在全国范围内开展镇压反革命运动。地方干部认识不足，运动力度不够。中共中央于1950年10月10日向全国各地党委下达“镇反”指示，10月16日公安部召开高级干部会议，具体部署。1951年1月28日，毛泽东亲自主持中央发电，要“大张旗鼓”“稳准狠”地在全国轰轰烈烈镇压反革命分子。1951年3月13日，济南发生了阶级异已分子王聚民在高干会上开枪刺杀山东军区政治部主任黄祖炎的罪恶事件，引起毛泽东震怒。毛泽东提出“清理中层”“清理内层”。根据上级指示，随同全国形势，泰山专区各县大张旗鼓地开展镇压土匪、恶霸、特务、反动党团骨干和反动会道门头子等反革命分子。
泰山专区的“镇反”运动广泛深入，声势很大。泰安专署的行政科长有历史罪恶，被挖出枪毙。1951年“五一”节，一次枪毙50人。行刑前游街示众，队伍既庞大又威严，军乐队前导，腰鼓队压轴。囚车队前后各有一卡车公安战士押解，司机棚上各架两挺机枪，战士各持上有刺刀的步枪。25辆刑车全是卡车，每车两名死刑犯，各有16名战士执押，刺刀一律冲外，显示万无一失。全城轰动，万人空巷。队伍最后到达城南河滩，公审大会宣判后就地执行。罪犯跪成两排，公安处长现场指挥、监刑，一声哨响，枪声齐发受刑者应声扑地。第二批依序执行。以专员刘舜卿署名的50张布告，贴满大街小巷。这一大张旗鼓的行动，确实起到很大威慑作用，许多有问题的人投案自首。刘舜卿及时指出，凡是投案自首者，不管历史的还是现行的，不管是罪大罪小，量刑时一律酌情从轻。他提出，“历史罪行看现在，现行罪行重行动”。即剔除历史背景，也要言行有别。“对坦白者，可以宽大为怀，但不可宽大无边。”重点打击反新生政权、危害人民生命财产安全的恶性行为。这产生了一定感召力。至1952年泰山区各县“镇反”先后基本结束。刘舜卿在领导运动中，严格掌握政策界限，强调“政策和策略是党的生命”，坚决保障群众利益不受侵犯。他特别强调要以雷厉风行、甚至“迅雷不及掩耳”之势,“稳、准、狠”地彻底把反革命一网打尽。他解释道，稳是注意策略，准是不要杀错，狠是该杀必杀，以平民愤。他对送审案卷逐一细阅严格把关，有的还亲自做必要的了解，以防冤枉好人。他特别指出杀人要慎重，说:“刀把子在我们手，杀个人很容易。大笔一挥，人头落地。但这笔有千钧之重，不能乱挥啊!”他提示:“人都有三亲六故，处理错一个，影响一大片。人头不是韭菜，割了不会再长，一旦杀错，无法补救”。他指示:“杀人偿命，自古依然。只要没有人命血债，一般不杀。”在他手下，先后救下了三条人命。
1951年军分区机关挖出一个暗藏的反革命分子，一直企图接近军分区文工队指导员、刘舜卿的女儿刘学兰，寻找机会谋害刘舜卿，终未得逞，转而暗杀刘学兰。案犯向刘学兰茶水里投毒。当时刘学兰正吃中药、忌生冷，有毒的茶水未及时喝，凉了泼掉，幸免中毒。办案人员定性为“投毒杀人”，提出严惩。刘舜卿则指出，此人投毒已遂，未成后果，要量罪行罚，不要因涉及他的亲属就重处。
刘舜卿对自己的亲戚却绝不徇私情。他的连襟李兰玉是他发展的一个党员，抗战时期，其大汉奸妹夫亓子美胁迫他当伪村长。他通过刘舜卿征得我方首肯，当上了郭家芹村的两面政权村长。他曾在了解敌情、掩护抗日人员筹措抗日给养等方面做过不少好事。刘舜卿、王醒、刘子正等莱芜县的领导多人在形势危急时先后到他家隐蔽过。有一次，亓子美到李家，正巧刘舜卿隐蔽在此。李兰玉对亓子美正色道:“刘舜卿在。如果你在我家溅出半滴血星，让老娘受到惊吓，我就用头撞死你。”亓子美反而和蔼地说:“二哥想多了。我看看老母就走。”李兰玉又说:“你也不能堵门围墙，把灾祸带进我家,离开我家，你们如何打斗、谁死谁活我不管。”结果使刘舜卿安然脱险。李兰玉也有为应付亓子美的侍敌行为。他的副村长郭传儒与他和同一个“破鞋有染，争风吃醋不休。郭便“借刀杀人”，向敌告发李兰玉“通共”，向抗日政权举报李兰玉“侍敌”。敌我双方对李都有追究、惩治，亓象德险些没把李兰玉活埋。1947年，郭传儒把“破鞋”的丈夫掐死投井，栽李兰玉。刘舜卿令专署公安处将李抓来审问、调查，李没有作案时间被排除释放。郭传儒则潜逃东北，隐姓埋名，销声匿迹。“镇反”中苦主重新举报，专区法院认定李兰玉为敌效力、霸占民女、残杀群众，判其死刑。刘舜卿审批时，实事求是，毫不避嫌，向办案人员介绍了过去的情况。提出李兰玉杀人一节，暂不量刑，先就其任伪村长的罪行判处十年徒刑。这应属重判。李兰玉在劳改中认罪伏法，刑满后留用。郭传儒在“文革”中被挖出，押回原籍，对其杀人之罪供认不讳。
国民党山东第十五专署突击大队长耿继武，新中国成立后潜伏于宁阳县九山一带，组织股匪，齐备枪械，流窜于曲阜、泰宁等县，昼伏夜出，杀人越货，残害党员干部，屡剿不尽，日益疯狂。匪徒心狠手辣、残虐无度，挖眼割舌、斩手剁脚，令人发指。刘舜卿恨至极，要求坚决灭。宁阳县委遵照指示，领导全县人民开展了“清匪反霸”斗争。1949年8月，宁阳七区在县剿匪大队的配合下，对耿匪围剿，击毙、俘获顽匪30余人。匪首耿继武、宁益山侥幸逃脱。他们图谋报复，恶毒施计，制造血案。1950年1月18日耿匪把宁阳县茂义庄的3位乡村干部杀害，制造假象和伪证，栽赃陷害致使潘立振、孔令仁等6名村干部、民兵被错定为凶手。宁阳县人民法院于1950年7月将6人定性为“反革命预谋杀人案”，判处死刑，执行枪决。刘舜卿闻知匪恶拍案大怒，说:“蒋介石800万军队都被消灭光，岂容几个蟊匪称狂。这些匪帮解放前为非作歹，新中国成立后还继续穷凶极恶祸害人民，实属十恶不赦。”刘舜卿曾对陈毅提及此事，陈毅愤怒地说:“你们要枪有枪，要人有人。组织力量，坚决剿灭。不留后患。”刘舜卿同军分区司令员封振武副政委曹礼琴及其他同志共下决心，周密部署。1951年，泰安地委依刘舜卿等人的建议，组成了鲁中南和泰安两个军分区的“九山地区剿匪委员会”，协调各方，调集公安部队，实行军事围剿。1951年4月泰安地委成立剿匪指挥部，由泰安、宁阳、肥城、泗水、曲阜等5县调集民兵900人，连同泰安军分区部队3个连及80余人的武工队，共1400余人组成剿匪武装，在泰安军分区司令员封振武和周鲁、何剑秋(专署公安处长)等直接指挥下，经过20天战斗，在宁阳凤凰山和九山一带全歼耿匪残部。匪首耿继武等20余顽匪被击毙，宁益山等4名首恶被活捉，逮捕土匪和窝匪、通匪分子120余人。彻底消除匪患。时称“九山剿匪”。剿匪中，虽我方人多势众，但顽匪狡猾，环境熟悉，战斗非常艰巨。何剑秋险遭不测，其警卫员牺牲。一次我武装把一小股土匪逼进一个小院，我战士趴在围墙上喊话，令其投降。内应要缴枪，并从窗棂扔出几支枪。一位民兵信以为真，急着跳进墙捡枪。土匪一子子弹打出，民兵身中多弹牺牲。我战士气极，爬上屋脊，揭开屋顶，扔进火把，连投几颗手榴弹，把土匪炸了个粉身碎骨。
宁益山落网交代，6人冤案真相大白，纯属耿匪一手制造。山东省政府泰安专署立即派人进行专案核查，认定本案确系重大错案。潘立振等6人平反昭雪，宁益山被枪决，做伪证者分别被判处有期徒刑。
此冤案发生过程中曾有不同意见，未被重视。宁阳县七区区委书记许希亮、区长赵圭卿坚决反对专案组的定性，被认为是替反革命分子辩护，二人被县委撤销一切职务，停职反省。此案平反后震惊全国，被最高人民检察院列人20世纪50年代全国十大错案。刘舜卿指示军分区文工队指导员刘学兰将耿继武案编剧公演，大张旗鼓地宣传剿匪除霸。
