1947年11月至1948年2月，刘舜卿奉命到华东局党校学习，任学员总支委员。行前，他商林乎加，临时把工作交给组织部长刘子正。脱产学习一直是刘舜卿的向往。这次机会十分难得，非常珍惜。他期望通过学习，提高一下自己的思想觉悟和理论水平，武装一下自己的头脑。他认为光有实践、烫有理论会鼠目寸光，只会低头拉车、不会抬头看路，是盲目的革命者。只有提高了政治水平，才能自觉执行党的路线和政策方针。他心志很高，甚至“雄心勃勃”.一定要明白马列主义精髓和中国共产党革命路线的核心。他经常与一起学习的山东分局秘书处长李钧、陈明达等交流、请教，自感满有心得脑中另有洞天。他见到时任鲁中南区党委副书记谷牧，也不失时机地探讨谷牧曾历任山东分局秘书主任、统战部长。刘舜卿与其有过工作接触。当有人俏皮地说，泥腿子学洋理论很吃力、无用。他纠正说，马列主义是放之四海而皆准的真理，是中国革命的指导思想。他认为，胡适说外国理论是“船来品”，解决不了中国的问题。“少谈点主义，多解决点问题”，这话不对，解决问题是应该的，关键是用什么主义解决问题。
实际上，这次学习主要是总结经验，提高认识，改进工作。刘舜卿刚到不久，就几次被黎玉约谈，了解泰山地区土改、复查的工作情况。刘舜卿在徂徕山起义时初识黎玉，1944年在临沂开会十个月，黎玉时任山东分局副书记、山东战时工作推行委员会主任，会上会下接触较多。刘舜卿当时对莱芜地区形势、斗争策略、阶级分析、统战政策谈的意见，给黎玉留下较深的印象，使他感到刘舜卿是一个善于思考、脚踏实地、自觉自律的人。黎玉于1936年到山东重建省委，领导了徂徕山起义，任八路军山东纵队政委，使山东抗日力量迅速发展。为完成中央军委要求山东正规部队达15万人枪、地方武装达100万人的任务。黎玉殚精竭虑，付出巨大努力。他和徐向前、朱瑞罗荣桓等，抓部队质量，半年内精锐基干达7万多人。1938年后的一年半内，山东抗日战场大小战斗2000多次，毙、伤、俘日军松井山村中将以下近2万人，伪军2.5万余人，破坏公路1.2万公里、铁路500公里，击落敌机3架，击毁敌舰一艘、汽艇7只、汽车86辆、火车头36个、车厢162节。刘舜卿对黎玉信任、钦服。整个抗日战争中，山东取得辉煌胜利。八路军队伍发展到27万人，民兵50万人，自卫团150万人。根据地扩为5个行政主任公署、22个专员公署、127个民主县政府，面积12.5万平方公里，人口2400万。这为中国抗战的伟大胜利做出了卓越贡献。
1945年12月山东分局改组为华东局，饶石任书记，黎玉任副书记。黎玉在饶漱石不在山东期间，按中央“五四指示”精神，主持制定了《中共华东中央局关于彻底实现土地改革的指示》。山东实行土改。刘舜卿在泰山地区坚决贯彻执行，总体收效很好。1947年1月，饶漱石回鲁后，勾结康生，把黎玉等山东地方干部贬谪为“富农党”，土改是“富农路线”。黎玉不同意饶漱石仍让华东局发出指示，诬称山东土改存在“富农路线”倾向，要求纠正。华东局随后发出《关于山东土改复查新指示》，使土改“左”倾错误发展到极端。在泰山地区到处出现地主被没收土地，查抄浮财，“扫地出门”，有些人被活活砸死等乱象，富农也受波及。有些坏人乘机作恶，公报私仇。不少地富人家为抗日战争出过力，支持八路军，纳粮出钱，守法尽责，屡尽义务。抗战刚结束，就受到如此打击，其心何甘?普通群众也不理解，对政策也不拥护。刘舜卿听到大量的社会反映，紧急采取措施制止，但政策性的破坏力是巨大的，上有错误政策，下有不轨群体，个人是无能为力的。此错误后果严重，国民党重点进攻山东时，“还乡团”肆虐，报复杀害乡村干部和翻身农民。有些远逃国外，对当时“赶尽杀绝”的情景，多年耿耿于怀。刘舜卿开始就认为政策过“左”，执行中消极抵制，积极向上反映。这与他执行黎玉土改政策时的表现“大相径庭”。原来这成为他被调到华东局党校学习的主要因由。
刘舜卿被责令就其执行黎玉的“富农路线”进行“总结”，指责他反映“土改复查”的情况缺乏阶级分析，执行“复查新指示”不力。他被指在抗日民族战争中态度坚决、义无反顾，在土改阶级斗争中底气不足、工作怠慢。这与其“富农出身”有关。主事者本意是压刘舜卿反省，借以揭批黎玉，孰料触发了刘舜卿的铁铮骨气。
刘舜卿向来深崇“相忍为国”，大局意识很重。他能为整体利益和革命原则“忍辱负重”“委曲求全”，任何被冤受屈之事不予计较，个人利益更是与世无争。这是他受儒家思想“君子无所争，争也必君子”的影响形成的性格特点，也是参加革命后淬炼成的人民利益至上的观念。他的克制忍耐力很强。但是，这次他做出了强烈反弹。他指出，给黎玉扣上“地方主义”“山头主义”“宗派主义”“富农路线”和“右倾机会主义”等帽子，是“欲加之罪，何患无辞”。全盘否定山东工作的巨大成绩，是否定山东军民的抗日革命功绩，是不尊重事实的，不讲革命道德的。刘舜卿说，中国共产党是阶级斗争的队伍，以消灭剥削阶级、解救劳苦大众为宗旨，这是铁铮铮的道理，也是每一个党员的阶级觉悟。但是，消灭阶级不是消灭人身，每个人的阶级属性是他的社会行为决定的，不只是家庭出身。我们党内有无数优秀党员出身于剥削阶级家庭，就是雄辩的例证。抗日战争是全民族抗战，其中包括大部分地主、富农。抗日部队是要吃粮食的，我们的贫雇农群众想把每一颗粮食拿给抗日战士吃，但他们往往一颗粮食也拿不出来。我们是吃着富户的粮食包括地、富家的粮食打败了日本侵略者。我们的“三三制”政策也是对这一事实的承认。日本刚投降，土改复查使一些在抗战中做过有益之事的人受到不应有的打击，他们内心不服，群众不安，认为“卸磨杀驴”，影响共产党的威信。刘舜卿说，共产党的成长，领导抗日的辉煌，总结起来有千条、万条，最根本的是，我党有坚定正确的政治方向，伟大崇高的革命信仰，深入扎实的群众基础，广泛民主的统一战线，全心全意为人民服务。一言以蔽之得人心。得人心者得天下，失人心者失天下。“错误的政策会制造大批敌人’自古亦然。对恶霸地主要斗争，对开明地主要争取。地主和平献田，合理分田，实践证明，更得人心，土改阻力更小，我党威信更高。土地是农业的命根子。土改是无偿剥夺地主的土地，改变土地所有制，颠覆性地改革土地关系。中国革命的根本问题是土地问题，处理得好不好，关系着革命事业发展顺利与否，甚而影响到革命成功后政权的巩固。我们共产党革命的路还长着哩，必须处理好我党同各阶级的关系。
刘舜卿深入地谈了地主土地问题的社会根源。他说，地主土地及其租赁关系，是中国几千年自给自足的自然经济形态逐步形成的，在等价交换、剩余价值观念没有传入中国前，被视为合理的。佃雇农用劳动力换取地主土地的使用权，是一种不等价的、必要的交换。交换价值是由社会需求决定的这就使地主利用土地为手段，压榨、盘剥农民，形成政治压迫。因此，土改是经济关系变革，也是政治关系的变化。它涉及社会观念的更新，必须审慎对待。刘舜卿对指责他对华东局土改复查指示消极抵制，申辩道，贯彻上级指示，不能当应声虫，不能机械照搬照套，必须根据当地的实际情况。把上级政策因时因地执行，是我们的职责。不然，要我们这些干部干什么?实事求是，具体问题具体分析，是马列主义活的灵魂。刘舜卿还交代了他的“富农出身”。按家庭经济状况，他家只是中农水平。他和弟弟参加革命时，为了显示“革命觉悟”，填报了“富农”(土改定中农)。他在“复查”中的态度与家庭出身没有关系，他的“错误”是执行了“土改复查指示”，而不是“执行不坚决”。刘舜卿的态度和言论表现出铁铮铮的节操，表露出对饶漱石、康生的不满。这无异于触到他们“龙鳞”逆溯之痛。饶大为“光火”，康颇为不悦康生心如蛇蝎，记恨不忘。多年后，他问刘子正:“你有个弟弟叫刘舜卿?个子不高，现在哪里?”刘子正忙答:“是我哥哥，现在鞍山。”康生不阴不阳地说:“很有个性。”可见康生对此“一箭之仇”，耿耿于怀。
刘舜卿接受了黎玉的劝说“一切为了前线，一切为了胜利”，最终忍屈服从了。“文革”中成为刘舜卿反对康生的一条“罪状”此后，山东形势很好，特别是地方工作，声色可嘉。据官方资料记载解放战争期间，山东参军达58.9万多人;出动民工173万多人，牲口5万多头大车2.5万多辆，小车41万多辆，挑子14万多副，运粮8亿多斤，被服36万多件，其他物资5300多万斤。其中泰山区为首。
