抗日战争胜利后，国内局势更趋复杂。山东作为连接华北、华中、东北的枢纽，担负起了更为重大的战略任务。解放战争初期，黎玉在领导山东解放区建设的同时，协助陈毅组织津浦路徐济段战役，保卫山东解放区。全面内战爆发后，黎玉领导了山东的土改运动。1947年，黎玉受到了饶漱石、康生的错误批判。面对不公正的批判，黎玉在“一切为了胜利”的大局下，默默地忍受了加在他头上的不实之词。
（一）送子弟兵出征东北
抗日战争胜利后，中共中央迅速做出了占领东北的决策。8月18日，毛泽东致电黎玉、罗荣桓，将原属东北军的万毅支队调往东北，并要黎玉和罗荣桓将东北干部尽可能地调至万部。8月20日，毛泽东又致电黎玉和罗荣桓，要求山东在十天之内准备好两个团，开至热河（今河北省承德地区）边境待命。22日，刘少奇致电山东分局，要求黎玉和罗荣桓立即抽调大批干部到东北去，进行建立地方党与地方政权、发动群众、出版报纸等工作。
此时，山东解放区正处在对日反攻的紧张时刻，但在接到中央的指示后，黎玉马上进行派干部和部队进入东北的工作，并向中央提议，为迅速进入东北，山东的干部和部队可不必走陆路，由胶东派干部，经海路到东北。29日，中央复电同意。9月2日，万毅率领由滨海支队组建的东北挺进纵队向黄县进发，24日渡过渤海，进入东北。
9月15日，中共中央再次电示黎玉和罗荣桓，要求山东迅速派人到沈阳同东北局接洽，山东准备进入东北的部队在胶东脱下军装，以劳工或难民的身份迅速进入东北，到沈阳后再加装备。中央还要求山东抽调30个团的军事干部到东北。17日，中共中央又给黎玉和罗荣桓致电，要求黎玉和罗荣桓将胶东和渤海两军区的全部主力派往东北。在做出“向北发展，向南防御”的战略部署后，中共中央将控制东北的任务完全交给了山东分局。9月19日，中共中央致电黎玉、罗荣桓，命令：“山东主力及大部分干部，迅速向冀东及东北出动。”“完全控制冀东、锦州、热河，并在将来苏联红军撤退时阻止顽军进入东北、热河。”中央还电示罗荣桓去东北工作，黎玉继续留山东工作。20日，中央再次致电黎玉、罗荣桓，说：控制东北的任务，“中央完全靠你们及山东的部队和干部。原则上要以山东的全部力量来完成，必须全力执行，越快越好。”“时间非常紧迫，望你们迅速动作，越快越好。你们的部队和干部应寻找一切可能的道路，立即出动，进入东北及冀东。”
为完成中央交给的战略任务，黎玉、罗荣桓在山东大反攻还没有结束的情况下，在夏季攻势作战和大反攻遭到较大伤亡、干部缺乏的情况下，迅速做出具体安排。在军区机关方面，由肖华带司、政、供各一部得力干部及鲁中军区政治部主任周赤萍、政委刘西元和赵杰、吴瑞林两个军分区司令立即赴东北（9月20日，肖华等1000余人即渡过渤海，先行赴东北）；在地方干部方面，调山东省政府秘书长、山东分局社会部部长刘居英带省、地、县各种干部三、四百人去东北；军队方面，由万毅带三个小团，一个大团并各种干部70余人，另胶东军区副司令兼师长吴克华、政治部主任兼政委彭嘉庆带三个181
团及师部，军分区司令刘贤权带一个团，总共五个大团三个小团，放下武器，脱下军装，以东北难民身分，从各原驻地一起出发，立即开赴东北；在军事干部方面，从鲁中、滨海各抽调了三个团，从军区直属机关、渤海、胶东、鲁南各抽调了一个团，共十个团的全套干部09月20日，黎玉和罗荣桓将上述计划报告中央，并表示，在不减弱对顽固派作战力量的情况下，尽力再抽调力量。在接到中央19日、20日的电令后，黎玉、罗荣桓又决定从胶东抽两个师，渤海一个师，滨海两个师，每师三个大团，由海路奔赴东北。
在第一批部队陆续开赴东北后，10月12日，中共中央又致电黎玉、罗荣桓等人，要黎玉、罗荣桓再抽调5万人的兵力，开赴东北。黎玉在和罗荣桓安排好第二批去东北的部队的计划后，于15日和陈毅到邹县香城，组织津浦路徐（州）济（南）段战役。
为保证主力部队和大批地方干部开赴东北，黎玉不仅和罗荣桓拟定总体计划，还作了大量具体工作。从部队抽调的范围到行军路线，从出征部队的纪律到思想工作的具体要求，从整编部队到安排运输，黎玉均一一作出安排。从10月初到11月底，在短短的两个月的时间里，山东开赴东北的部队有7万多人。同时，山东分局还抽调了4000多人的地方干部随军奔赴东北。
在安排、部署出征东北工作事宜的同时，黎玉对于罗荣桓的病情也十分关心。10月9日，黎玉和陈毅、舒同致电中共中央，说罗荣桓的病至今未能治好，时重时轻，如去东北带病工作，恐难支持，建议中共中央迅速送罗荣桓到苏联治病。后中共中央回电，让罗荣桓先去东北，是否去苏联治病，视情况再决定。10月24日，黎玉送别了奔赴东北工作的罗荣桓等同志。
在山东主力部队挺进东北后，黎玉以山东地方武装为基础，迅速重建了山东解放军主力。在重建山东解放军主力时，黎玉要求各地开展“胜利人人有份，参军人人有责”的参军运动。结果，到1946年6月，山东解放区约有10万青年参军入伍。
（二）加强解放区的建设
为了巩固和发展新解放区，1945年8月11日，中共中央发出《关于日本投降后我党任务的决定》。《决定》指出：“今冬明春，必须在一万万人民中放手发动减租，在一切新解放区一律减租，放手发动与组织群众，建立地方党、地方政府与提拔干部，以便迅速确定我党在基本群众中的基础，迅速巩固一切新解放区。”
为贯彻中共中央决定，1945年9月，黎玉在临沂城组织召开了山东群众工作会议。会上，黎玉作了《论群众路线与山东群众运动》的报告。
根据黎玉的报告，会议总结了山东解放区减租减息运动的经验与教训，研究部署了1945年冬和1946年春开展反奸清算和减租减息运动的工作。会议决定，各地要立即在新收复的地区（约1.8万余个村庄）组织反奸清算运动，继而进行减租减息。会议要求，各地党委和政府要放手发动群众，在新解放区迅速开展以反奸诉苦、清算恶霸为中心的反奸清算运动；在没有进行减租减息和减租减息不彻底的半老解放区，以减租和增资为中心，迅速进行减租减息运动；在减租减息已经结束的老解放区，以发展生产为中心，同时注意处理好减租减息、反恶霸运动中取得的胜利果实，巩固党在群众中的威信。会议认为，反奸清算和减租减息运动具有两种不同的性质。反奸诉苦、清算斗争的对象是汉奸恶霸，斗争方式是没收与分配汉奸的土地财产，摧毁旧政权；减租减息是为了解决农民与地主的阶级矛盾和消灭封建剥削，斗争的对象是地主，斗争的方式是说理、算帐、减租。会后，山东解放区除津浦铁路沿线的鲁中、鲁南个别地区因参加津浦路狙击战外，均开始了反奸诉苦清算和减租减息运动。
1945年11月13日，黎玉签发了《山东省政府关于减租减息增资的布告》。《布告》根据《山东省土地租佃条例》、《山东借贷暂行条例》和《山东省改善雇工待遇暂行办法》，对减租减息、增资做出了明确的规定：“自解放之日起，无论公私租佃土地，一律实行二五减租”；“地租以外之一切额外负担，如份子粮、带种地、干拨工、送礼等，均应取消”；“解放后之借贷关系，约期在一年以内者，月利最高不得超过3%”；“雇工之工资一般应按照各地生活状况，以能除解决自己生活外，再养活一个人至一个半人为标准。”。在布告的最后，黎玉说：“对于减租减息、增加工资法令，如有故意违抗，借故拖延，收买愚弄，欺骗农民，或有挑拨造谣，破坏法令行为，准由农民雇工及农会工会，迳向地主、债主、雇主理论，并向政府指控或检举，当地政府应酌量情节予以处分。”
1945年冬，山东各新解放区展开了轰轰烈烈的反奸诉苦和减租减息运动。老解放区也同时开展了复查减租减息和发展生产运动。通过这场运动，广大农民政治地位、经济生活有了明显改善，生产积极性有了很大提高，广大的乡村政权建立起来了，广大农民提高了觉悟，加深了对党的感情，从而为迎接土地改革、迎击国民党反动派向解放区发动进攻奠定了良好的基础。对此，中共中央给予了高度的评价：山东及各地群众斗争，“成绩甚太，前途是光明的。”
（三）保卫山东解放区
中共中央在决定山东主力部队挺进东北的同时，命令新四军军部及大部主力北移山东。9月26日，中央命令正从延安返回华中的新四军军长陈毅取捷径到山东，接替罗荣桓的工作。10月4日，陈毅到达临沂。黎玉和罗荣桓设宴迎接陈毅，并向陈毅介绍了山东的情况。10月20日，中共中央任命黎玉代理中共中央山东分局书记，陈毅任山东分局副书记、新四军军长兼山东军区司令员。
日本帝国主义投降后，蒋介石为独吞胜利果实，作出了争夺华北，进而控制东北的决策。蒋介石命令国民党军队除分别沿平绥、同浦、平汉路前进，夺取平津外，还命令何柱国、李延年从徐州，沿津浦路北上，夺取济南、青岛09月24日，黎玉及时地将国民党军的北上意图和阻击国民党军北上的军事部署电告中央军委。在给中央的电报中，黎玉说：“为了阻击顽军与迟滞其前进时间，我们决定集中第三师、第八师全部，编成野战军，作战精干指挥部及政治机关，王建安为总指挥，王麓水为政委，并指挥警八旅、警三旅等，沿津浦线两侧之基干兵团，地方武装，积极配合作战。主力兵团应即移置适当位置，以便随时投入战斗。”
就在黎玉和罗荣桓进行部署时，国民党军第十军、骑二军和吴化文部开始从徐州沿津浦路北上。10月2日，国民党军先头部队约5000人到达滕县，大部队到达临城及以南地区。黎玉认识到，如果不能在运动战中给国民党军以坚决打击，不但会影响到山东解放区的巩固，也将影响到中央对东北战略的实施。因此，黎玉和罗荣桓决定组建五个纵队，分途阻击国民党军。但由于担任主要任务的山东军区第八师尚在台儿庄以南地区作战，调动不及，再加上沿途担任阻击任务的部队兵力分散，致使破路不彻底，也未能争取时间控制有力阵地，结果，国民党军积极修路，乘火车迅速北进。10月6日，到达兖州，9日，到泰安，10日，继续北上，一部进入济南。黎玉和罗荣桓一面将国民党军的北上情况电告中央军委，一面布置力量，阻击国民党军北上。黎玉和罗荣桓命令第四师在大汶口以北的津浦路两侧集结，准备打击国民党军的后续部队。又命令泰西的三个团集结于肥城以东阻击国民党军北上，同时要求鲁南、渤海军区动员力量，彻底破坏津浦路，相继夺取邹县及国民党军守备薄弱的车站，以控制铁路，迫使国民党军徒步行进，便于我军在运动战中将其歼灭。10月12日，中共中央军委电示黎玉和陈毅、罗荣桓，指出：目前山东与华中的中心任务（除出兵东北外）就是截断津浦路，阻止顽军北上，并力求消灭北上顽军之一部或大部。中共中央还要求黎玉、罗荣桓、陈毅，等人将鲁中、鲁南、滨海、湖西、泰西主力部队和新四军北移山东的部队，迅速组成一支强大兵团，坚决在徐州、济南之间狙击国民党之北上部队，并要黎玉、罗荣桓、陈毅亲去指挥（或罗、黎中分一人处理后方工作）。为实施中央军委这一作战方针，黎玉和罗荣桓致电山东军区各负责人、新四军负责人，对津浦路作战进行了重新部署。因罗荣桓身体不好，黎玉主动提出到前线指挥。15日，黎玉、陈毅组成津浦前线指挥部，并予当晚率前线指挥部进驻邹县香城，着手组织津浦路徐（州）济（南）段战役。随后，山东分局决定成立津浦前线野战军，陈毅任司令员，黎玉任政治委员。在香城，黎玉还和陈毅召开团以上干部会议，传达中共七大会议精神，进行反内战的动员工作。
10月18日，黎玉和陈毅指挥部队正式发起津浦路徐济段战役。19日，山东军区第八师攻占津浦线上的邹县县城，控制铁路20余公里，歼灭日伪军2000多人；山东军区第三、四师占领了大汶口车站，控制铁路10余公里，从南北两处切断了津浦铁路，粉碎了国民党军队企图利用津浦路北上的企图。20日，黎玉和陈毅致电中共中央，向中共中央报告津浦路徐济段战役情况。收到黎玉、陈毅的电报后，22日，中央军委向黎玉、陈毅发出新的指示，要求黎玉、陈毅将占领地段向南北扩展，创造出利于打运动战的战场。
根据中共中央新的指示，10月29日，黎玉和陈毅分析了山东的斗争形势，向山东各战略区党委、军区部署了今后的工作任务，并上报中共中央。关于目前山东的斗争形势，黎玉说：“目前山东已处在与顽军北犯的斗争最前线。……今后六七个月内，是我党工作特别紧张时期，山东党政军民必须动员起来。为保卫解放区，保卫华北，保卫抗战胜利果实，保卫人民利益而战。”黎玉指出，我们今后工作的中心任务就是一切为了争取前线的胜利。为了完成这一任务，黎玉要求山东各战略区党委、军区，必须做好九项主要工作：一是组织野战军及地区机动部队，打击顽军，并肃清铁道线伪顽，扩大解放区；二是组织战地动员与战地勤务；三是继续扩大地方县区武装；四是民兵应继续加强发展与教育，特别在新解放区，减租减息后应加紧发展；五是加强训练各种干部，尤其是新编军队中的军政下级干部；六是继续贯彻减租减息放手发动群众的任务；七是准备明年的生产运动；八是加紧兵工生产；九是争取敌军投降，瓦解敌军，开展顽军中的军队工作。
为创造出有利于运动战的战场，11月3日，黎玉、陈毅又指挥部队在界河伏歼吴化文部之大部，俘其军师长以下官兵4000余人，吴化文只身逃走。11月11日，中共中央致电黎玉、陈毅，祝贺歼灭吴化文部的胜利，并指出：“为准备必然要来的大举进攻，除集中与整训部队外，必须创造更广阔的战场，向南北扩展铁路线的占领区，拔除临、滕、邹、兖地区的据点，广泛发动群众，给民众以经济利益。国民党正在重庆开将领会议，实行全国反共，惟调集大军于邹、滕地区尚须时日，你们应利用此间隙创造战场，将创造战场的任务当作战略任务。”11月26日，陈毅、黎玉按照中共中央“创造更广阔的战场”的指示，指挥津浦前线部队，对韩（庄）滕（县）段和临（城）枣（庄）段上的日伪据点展开全面进攻，经两天激战，歼敌2000余人，并迫使国民党第五十七军2000余名官兵放下武器。12月12日，黎玉又指挥第八师和第九旅向孤立于滕县的国民党第十九集团军第二前进指挥所及其所属部队发起攻击。经3日激战，攻克藤县城，歼敌前进指挥所及暂编第一旅等部8000余人。在同时进行的小窑战斗中，全歼敌保安第二师2000余人，并迫使国民党新编36师何志斌部1700多人起义。但在解放滕县的战斗中，黎玉的老部下，鲁南军区政治委员、第八师师长王麓水壮烈牺牲。对于王麓水的牺牲，黎玉非常悲痛，亲到第八师视察，沉痛地参加了在滕县城西郊举行的王麓水追悼大会。
1946年1月8日，黎玉、陈毅又指挥部队在台儿庄、枣庄、临城一线向北进之敌发起进攻，到13日，先后攻克宁阳、韩庄，包围兖州、泰安、临城、枣庄，并迫使国民党第六路军司令郝鹏举率部起义ol月10日，国民党政府代表与中共代表签订停战协议，确定在13日午夜生效。根据国共两党的停战协议和中共中央发布的停止军事冲突的通知，1月11日，黎玉、陈毅发出紧急命令，命令山东军区部队和新四军部队及民兵、游击队严格执行国共双方代表签署的停战命令及中共中央发布的停止军事冲突的统治，于13日24时前停止一切军事冲突，各级政府、党委、军事机关，应切实严格遵守，不得有误。13日午夜，津浦前线各部队按照黎玉、陈毅的命令，停止对国民党军队的一切军事行动，至此津浦路徐济段战役胜利结束。在津浦路徐济段战役进行的同时，胶东、渤海、清河和滨海的山东野战军也按照黎玉的统一部署，打击了日伪军和进犯的国民党军队，解放了大片领土，歼灭了大量敌人，破坏了胶济铁路。
历时3个多月的津浦路徐济段战役和破路拔点作战，共歼灭国民党军3.2万多人，受降日军4000多人，策动被国民党收编的伪军2.2万人起义，拔除了盘踞在山东解放区中心地带的全部日伪据点，截断了津浦路，控制了胶济铁路，粉碎了国民党军沿津浦路北上的企图，同时使山东、华中两大战略区连成一片，形成了有利的战略态势。
1946年1月7日，为更好地统一指挥山东和华中的部队对敌作战，中央军委决定津浦前线野战军改称为山东野战军，陈毅任司令员，黎玉任政治委员。新四军军部与山东军区合并。山东野战军的组建，更加适应自卫战争形势发展的需要。
（四）调处军事冲突
抗日战争胜利后，经过了长期战乱的中国人民渴望和平，反对内战。1945年8月28日，为了实现国内和平，避免内战，毛泽东亲赴重庆，与蒋介石谈判。10月10日，国共两党签署了《双十协定》。《双十协定》规定，尽快召开政治协商会议，停止国共两党军事冲突，各党派在一起共商国事。1946年1月5日，国共双方代表初步达成《关于停止国内军事冲突的协议》。1月10日，国共双方正式签订停战协定并颁发了停战令。为了确保停战令的实施，双方决定建立军事调处执行部（简称“军调部”），负责军事调处。军调部由．共产党、国民党和美国政府的代表各一人组成。根据需要，军调部向各地派出军调小组，军调小组同样也是由共产党、国民党和美方的代表各一人组成。当时在济南的军调小组，美方是雷克上校，国民党代表是涂叙五，共产党代表是邝任农；在徐州的军调小组，美方代表是黑里斯，中共代表是王世英，国民党代表是李树正。
1月24日，徐州的军调小组代表黑里斯、王世英和李树正飞抵峄县。下午，黎玉和他们进行会谈，要求国民党停止进攻解放区，惩治汉奸，并指出，山东的日伪军必须由共产党领导的军队受降。
按照双十协定的规定，1946年1月，政协会议在重庆召开，国民党、共产党、民主同盟、青年党和无党派人士的代表参加了会议。在通过政府组织案等五项协议后，于1月31日闭幕。政协会议的召开及其所通过的协议，标志着中国共产党争取和平民主的斗争取得初步的胜利。为庆祝政协会议的胜利闭幕，2月13日，山东解放区在临沂举行庆祝和平民主大会。在大会上，黎玉发表演说，要求全省军民坚决拥护政协决议，为和平民主事业的实现而斗争到底。
2月19日上午11时，美海军陆战队第六师师长豪威尔少将和随员费斯上尉，由青岛乘专机飞抵临沂，要求会晤山东省政府主席黎玉和陈毅军长。黎玉、陈毅闻讯后，亲到机场迎接。随后，黎玉设宴招待豪威尔一行。在宴会上，黎玉向豪威尔阐述了中国共产党争取和平民主的诚意，揭露了国民党破坏和平的罪行。宴会结束后，豪威尔乘机返回青岛，黎玉和陈毅又到机场送行。在机场，黎玉、陈毅和豪威尔合影留念。
1946年2月底，黎玉接到中共中央的通知，要他和陈毅到济南迎接军调部三人小组。3月1日下午，黎玉与陈毅一起乘军调小组雷克上校的飞机飞抵济南。到达济南后，黎玉和陈毅与雷克上校交换了意见，又听取了邝任农等同志的汇报。晚上，在王耀武举行的欢迎济南军调小组的晚会上，黎玉代表山东人民说明了对军调小组工作的意见，介绍了山东几年来各方面的工作情况。黎玉的发言给在场者留下了深刻的印象。当时参加宴会的记者李普说：“起先的3分钟内我觉得他说得太平淡。但是慢慢地，听他一段一段说下去，我就渐渐地给他的惊人的组织能力吸住了。一个问题一个问题，一面思考，就一面说出来。他不用什么姿势来强调他的语气，平平静静而又清楚明确，给人一种‘谈娓娓’的感觉。”2日上午，黎玉、陈毅与国民党方面的王耀武、何思源及美军雷克上校到机场迎接周恩来、张治中和马歇尔。黎玉向周恩来就军调问题作了口头汇报。当天下午，陈毅随军调小组飞徐州，黎玉留济南与王耀武、何思源谈判。在谈判过程中，国民党方面始终想谈粮食和交通问题。因为当时大部分铁路被我军掌握，农村也被我方控制，国民党所控制的城市由于铁路不通，粮食和燃料短缺。黎玉则始终谈解决伪军问题。结果，双方根本谈不拢，谈了很多次，也没有什么结果。
黎玉还多次以山东省政府主席的名义照会济南、徐州、泰安等地执行小组，要求国民党政府撤销徐州、济南绥靖公署，疏散陇海、津浦铁路沿线军队，解除伪军武装，惩罚肇事的国民党军队。
在济南期间，黎玉还多次接受记者采访，宣传中国共产党争取和平民主的诚意，阐述山东省政府在和平民主时期的政策措施。在接受记者李普采访时，黎玉说，在和平民主时期到来之后，政府经济文化各方面的建设工作将占更重要的地位。但在国内政治军事问题还没有彻底解决，解放区的民主政权还没有得到国民党政府正式承认以前，解放区的基本任务仍是努力巩固和平，争取民主，保卫山东人民已得的民主权利。黎玉指出，但这是和建设工作分不开的。建设工作愈有成绩，就愈能团结全省人民，愈有力量争取民主在全国范围内实现。接着，黎玉阐述了山东省政府在1946年的工作中心，他说：“今年山东省政府的工作中心，就是放手发动群众，贯彻减租减息，和发展生产，发展教育。”3月4日，黎玉返回临沂。
