为了继续战斗，山东分局机关、省战工会、一一五师师部进行了整顿。1月份，根据中央的指示，八路军山东纵队改为山东军区，由一一五师师部统一指挥山东的部队(至4月党政军负责人联席会议完成了干部配备山东党政军领导机关发出关于1942年工作方针的指示，要求实行“敌进我进”，开展边沿地区斗争，粉碎日伪顽的“蚕食”和“扫荡”。根据斗争的需要，山东分局决定精简机关，加强基层，充实连队。2月，发出《关于实行精兵简政的指示》。我具体参加了这项工作。一个地区一个地区地研究具体情况，统计人口数量，计算出多少老百姓能负担一个脱产军职或文职人员（大致每百人负担三人较为合适）然后据此作出精简的方案和实施计划。3月底，山东分局在临沭召开会议，传达党中央指示，部署整顿党风、学风、文风。
1942年4月10日，刘少奇同志来到临沭县朱樊村。他受中央委托，在从苏北前往延安参加党的“七大”准备工作途中，检查山东的工作，分局指派我接待陪同。
在此之前，我没有见过少奇同志，但是在我的头脑里，他颇具传奇色彩；大革命时期领导了名著于世的安源煤矿工人运动；土地革命战争时期，忽而在东北领导地下斗争，忽而指挥军队行进在长征途中；七七事变前后，出任北方局书记，力拨王明“左”倾路线之乱，确立了一整套白区斗争的正确路线、方针和政策；皖南事变后，受命于危难之际，同陈毅同志一道重振新四军军威……长期艰苦、坚韧斗争的经历，伤害了他的身体，他瘦弱、清癯，讲话时不断地咳嗽。
我们考虑到他长途跋涉，劝他先事休息几天。他说：“现在的形势和工作情况，能是休息的时候吗？”接着就投入紧张的工作，一直到7月下旬离滨海经鲁南、湖西去延安。在这3个多月中，少奇同志帮助山东党组织解决了许多重大问题，大大推进了山东抗日根据地的各项工作。
他首先听取山东分局、一一五师、山东纵队和省战工会的汇报，召开山东党政军负责人联席会议，讨论决定了统一山东抗日根据地军事指挥和主要负责干部配备等重要事项。4月下旬，山东分局召开扩大会议，少奇同志在会上作重要讲话，充分肯定了在山东已经创建了能坚持长期抗战的根据地，八路军在山东已发展到10万人的重大成绩，也指出了存在的问题，主要是在思想上和行动上未能积极争取山东抗战的领导权。根据会议讨论的意见和少奇同志的指示，分局作出《抗战四年来山东我党工作总结与今后任务的决议》，提出要动员和团结广大人民群众，咬紧牙关，坚持长期抗战，加强各游击区，开展反“蚕食”斗争，积蓄力量，克服困难，在“三角”斗争中求得对我有利之转变，争取最后胜利。
之后，少奇同志又到临沭、赣揄深入基层检查减租减息工作。在少奇同志指导下，山东分局纠正了对减租减息抓得不紧、贯彻不力的偏向，作出了《关于减租减息改善雇工待遇开展群众运动的决定》，确定各抗日根据地从麦收到年底，把此项工作作为中心任务，并组成两个工作组分赴临沭、莒南两个“双减”实施中心县试点。
少奇同志在滨海期间，先后给山东分局、一一五师的干部作了《关于山东工作》、《群众运动问题》、《中国革命的战略与策略》、（党内斗争问题》、《思想方法问题》、《关于财政粮食问题》等重要报告。6月30日，在中国共产党成立21周年的前夕，他又在分局驻地党政军民大会上，作了关于党的奋斗历史的报告。这些报告，使山东的干部受到一次系统的马克思列宁主义理论教育。少奇同志还针对湖西“肃托”中扩大化的现象，指出凡是搞错的要马上平反，错杀的追认为烈士，家属给以抚恤，在押的立即释放，自行离队的要找回来安排工作。
这个期间，少奇同志还严肃批评了山东统一战线工作中一些右的错误。一天，届临“山东国民抗敌自卫军”成立一周年，朱瑞同志让我准备到会讲话，并说你讲些什么，需要请示一下少奇同志。”
我向少奇同志讲了朱瑞同志的意见。少奇同志问：“这件事分局讨论了没有？”我答没有讨论。”他说分局都没有讨论，我发表什么意见？这么大的事情，分局都不讨论还干什么？”我说：“我把您的意见立即报告朱瑞同志，这个纪念会是否推迟一天召开？”少奇同志说明天是人家的纪念会，你有什么资格让人家推迟召开？”一连串的钉子碰回来，搞得我莫名其妙，不明白为什么引起少奇同志发火，究竟错在哪里？
后来我才知道，少奇同志之所以发这么大火，是因为山东党组织在工作上存在某些偏差。当时，我党执行抗日民族统一战线，在山东对愿意抗日的国民党人士、社会名流和开明绅士如李澄之、梁竹航、杨希文、耿光波先生等人组织的“山东国民党抗敌同志协会（简称“抗协”）采取团结的政策，这是正确的。这几位先生是真心抗日的，在党的团结教育下，经过斗争的锻炼，后来都跟着党，为建设社会主义做出了贡献。但是，错误在于1941年组建了由他们担任指挥员的“山东国民抗敌自卫军”。上述这几位先生并非国民党的军人，他们原来也没有武装力董，再组织一支似乎是“第三势力”的部队，“画蛇添足”，多此一举，也造成工作上的许多麻烦。这反映了执行党的方针政策上的右倾。少奇同志决定要果断抓紧处理这个问题。他和朱瑞同志、罗荣桓同志亲自做“抗协”各位先生的工作，研究了“抗协”和“山东国民抗敌自卫军”的处理办法。不久，“抗敌自卫军”划归山东军区统一指挥，“抗协”活动逐渐淡化，它的专职干部分别被安排到抗日人民政府有关部门工作。
7月下旬，少奇同志离开滨海前，在干部会上说：“山东的工作，现在到了关键时刻。如果还是按照以前的路子走下去，再过两年，我就送你们一块匾，上书六个大字：‘右倾机会主义’。山东的对敌斗争形势这么紧张，不把主要精力放在抓党的建设、根据地建设和对敌斗争上，而是热衷于去搞‘一切服从统一战线’、‘一切通过统一战线’，非栽大跟头不可！”少奇同志对山东工作的批评，振聋发聩，使大家端正了路线方针，提高了干部政治思想水平，对山东的抗日斗争形势胜利发展，起了非常关键的作用。
我有幸在这三个多月的时间里跟随在少奇同志身边，亲耳聆听他对时局的精僻分析，亲眼目睹他下基层调研时的务实作风，特别是他总能抓住主要矛盾、抓住关键问题的敏锐的政治判断力让我非常敬佩。我党在山东的负责同志中不乏理论家，例如朱瑞同志为妇联做报告可以连续讲上两三天。而少奇同志展现给我们的是理论联系实际的魅力，是中央集中各根据地经验和中央领导集体智慧、高屋建瓴的战略思维。从此以后，我在工作中自觉地按少奇同志的风范去做。
3·5甲子山驱顽
不久，滨海区就取得了粉碎国民党反动顽军的胜利。
当时，滨海区内除了我党领导的人民军队以外，还有于学忠任总司令的国民党苏鲁战区总部及其所辖东北军。在1938年到1939年期间，我军和这支国民党部队大体上还能维持团结抗战的局面。随后，因蒋系特务和日伪间谍的煽惑挑拨，东北军内部急剧分化，影响到我军与该部的合作和滨海地区的抗日大局。
东北军五十七军万毅旅长发动的“九·二二锄奸”和一一一师师长常恩多同志率部起义之后，一一一师参谋长陶景奎、旅长孙焕彩等反动分子不甘心于失败，一方面捜捕我在该部工作的同志，清洗抗日进步力量，一方面纠集地方反动顽固势力向我军猖狂进攻。孙焕彩勾结反动地主武装李延修、朱信斋等部，乘机抢占莒南甲子山区。1942年8月14日，八路军一一五师部分主力和山东军区第二旅、滨海军分区独立团、抗大一分校一部，向这股反动势力发动攻击。经过四天战斗，毙、伤、俘顽军1000余人，缴获了大量武器，将他们赶到莒日公路以北，收复了甲子山区。这是第一次甲子山战役。
10月8日，孙焕彩又纠集4000余人，分两路进犯甲子山区。我军英勇抗击，在十天内进行战斗20多次。由于这时我们集中力量反击日伪军的“扫荡”，为避免两面受敌，遂撤出了甲子山区。这是第二次甲子山战役。
为了彻底摧垮孙焕彩反动顽军，12月16日，一一五师和山东军区在莒南坪上召开军事会议，部署了第三次甲子山反顽战役，决定集中优势兵力，消灭这个心腹之患。参战部队有一一五师教二旅、山东军区第二旅的两个团，还有举义过来的新一一一师（万毅同志任师长〉，于17日晚分四路发起猛烈进攻。罗荣桓、朱瑞、陈光等领导同志亲临前线指挥。激战三昼夜后，孙焕彩被迫收缩阵地，我军猛攻痛击。孙焕彩在30日带着残兵败将鼠窜而去。
从当年8月东北军一一一师举义起事，到年底击溃孙焕彩部，基本上粉碎了国民党反动军在滨海地区破坏抗战的活动，改变了我们在此以前必须两面作战的局面，为以后进一步开展反日伪“扫荡”、“蚕食”斗争，巩固和发展滨海敌后抗日根据地创造了条件。
甲子山反顽战役胜利结束后，山东分局、山东战工会、山东军区随即经常驻在莒南，指挥山东各抗日根据地的斗争。
