1936年4月底，黎玉接受中共北方局的任命，担任中共山东省委书记。到山东后，黎玉重建了山东省委，结束了王明“左”倾教条主义错误对山东党组织的危害与影响。在黎玉的领导下，山东省委恢复和发展了山东各地的党组织，使党的春风又吹遍齐鲁大地。
（一）踏上新征途
1935年冬，在古云集的徐庄，黎玉接待了中共山东省工委负责人赵健民。
1933年7月，中共山东省委遭到大破坏后，中共山东地方党组织不但同上级党组织失去了联系，而且长期没有统一的领导机构，各地基层组织及广大党员，只能以高度的自觉性，独立地同敌人进行不屈不挠的斗争，并在斗争中千方百计地寻找上级党的关系，赵健民就是其中的一个。
赵健民是中共济南乡村师范学校地下支部书记。这个支部自1933年7月中共山东临时省委被破坏后，便独立坚持斗争，发展党的组织，并在此基础上成立了中共济南临时市委，由赵健民任书记。后来，赵健民与莱芜党组织负责人刘仲莹接上关系，联合成立中共山东省工委。工委一面坚持斗争，一面设法寻找上级党的关系。1935年冬，赵健民听说濮县搞了分粮吃大户的斗争，认为濮县一定有党的领导，就到濮县，寻找党的上级组织。在徐庄，赵健民见到了黎玉后，向黎玉详细汇报了山东党自1933年7月被国民党破坏后的恢复发展情况。
听完赵健民的汇报后，黎玉对赵健民说：“山东省党组织遭到敌人破坏后，你们能独立坚持工作，恢复发展党的组织，现在能有500多位党团员，形成一个有机的整体。这是难能可贵的。”①黎玉要赵健民把山东党组织恢复发展的情况写一份报告，由他转交北方局，以便在北方局领导下恢复山东党的工作。黎玉还向赵健民介绍了中央对目前形势的看法和中央的方针、政策。他说，《塘沽协定》签定后，国民党实际上承认了日本对东北三省、热河的占领。今年6月的《何梅协定》和《秦（德纯）土（肥原）协定》表明，国民党已经放弃了河北、察哈尔这两个省的主权。现在，日本帝国主义正在活动华北五省“自治”，想通过“自治”，变华北为第二个伪满洲国。看来，日本帝国主义要把全中国变为他的殖民地。现在全国人民的大多数已看清，亡国危险已迫在眉睫。因此，我党的中心任务是开展抗日民族统一战线工作，八一宣言已明确提出，全中国各党各派、各军各界联合起来一致抗日，可以组成国防政府和抗日联军。国防政府和抗日联军组建起来后，我们党领导的各个苏区，可以成为国防政府领导下的一部分，开赴前线抗日。黎玉还对赵健民说，抗日民族统一战线的建立是要有一个过程的，在抗日民族统一战线建立前，我们还要和往常一样，保持警惕，严守秘密，注意工作方式和方法，防止国民党的破坏。
第二天晚上，赵健民将给北方局的报告交给了黎玉，并告诉了黎玉济南党员关系的人名、地点和接头代号。赵健民向黎玉提出，由于国民党对山东共产党组织的残酷镇压，山东所有党团员对国民党的仇恨很深。现在，中央提出抗日民族统一战线的政策，主张组成国防政府和抗日联军，和韩复榘携手抗战，这对山东来说，是一个大弯子，需要做艰巨的工作。黎玉说，日本侵占了东北，制造了伪满洲国，现在又推行华北五省自治运动，要灭亡整个中国。现在，中国同日本帝国主义的矛盾，不仅是工人、农民，而且各个地方的实力派和代表大地主、大资产阶级的国民党政府，在日本要灭亡中国的前提下，为了不当亡国奴，都有联合起来共同抗日的要求和愿望。我们党只有高举抗日民族统一战线的旗帜，才能得到全国人民的拥护，也才能成为抗日民族统一战线的中坚力量，领导推动抗日斗争，并通过抗日斗争，发展壮大自己，一步一步地取得工农和广大人民的解放。黎玉还告诉赵健民，河北省直南的党也正在做这个思想工作，转这个弯子。只要耐心地分析形势的发展，各地党的组织会逐步领会抗日民族统一战线的正确性，愿意为党的这一政策而进行忘我的工作。最后，黎玉说：“我再说一遍，在抗日民族统一战线未争取到以前，必须提高警惕，像往常一样防止敌人对我们的破坏。”
第三天早上，赵健民带着终于找到党的喜悦，回到济南。1936年初，黎玉回到冀鲁豫边特委驻地磁县时，将在濮县见到赵健民的情况和赵健民的报告、接头关系转告给了河北省委。一个月后，河北省委负责人高文华来到磁县，向黎玉转达了中共中央北方局书记刘少奇的决定。北方局决定派黎玉担任中共山东省委书记，恢复和重建山东党的组织。黎玉愉快地接受了党的决定，在将冀鲁豫边特委的工作移交后，便骑上他那辆“九穷”朋友送给他的破旧自行车，单枪匹马地向济南去了。从这时起，黎玉便把自己的生命和山东人民紧紧地联结在一起，直到全国解放前夕，在山东整整工作了13年。
（二）坟地里的重建大会
4月底，黎玉到达济南。当时的山东，斗争形势十分险恶，叛徒、特务到处搜寻共产党人的踪迹。黎玉不顾个人安危，一到济南就积极开展工作。黎玉首先听取了省工委代理书记赵健民及济南各党支部的汇报。黎玉肯定了以赵健民为首的济南乡师党组织和济南市委在恢复、重建省及各地党组织中做出的重大贡献。之后，黎玉传达了北方局重建山东省委的决定，分析、研究了山东的政治经济等各方面的形势，提出了坚决执行抗日民族统一战线政策，壮大抗日爱国力量，积极而谨慎地恢复党员关系及党组织关系等任务。黎玉还传达了北方局同意山东这几年党、团混合编组过组织生活的做法，决定待党、团组织进一步发展后，再单独建立团的组织系统。
经过一段时间的工作后，黎玉决定重新组建中共山东省委。
1936年5月1日国际劳动节，在济南四里山北边一块长满松柏的坟地里，黎玉和赵健民、林浩开会，宣告中共山东省委重新建立。根据北方局的指示，决定由黎玉任省委书记，林浩任省委宣传部部长、赵健民任省委组织部部长。
会上，黎玉说，在国际劳动节这天重建中共山东省委，对山东是有意义的。山东省委要接受过去山东党组织屡遭破坏的教训，既要小心谨慎地，又要大胆积极地与那些失去联系的县委、支部以及失掉关系的党员，建立组织关系，组织党员参加组织生活。他还说，我们党担负着把一切抗日爱国力量团结在自己周围的重责，要坚决贯彻抗日民族统一战线的方针，将一切抗日爱国分子团结在党的周围，要在群众中开展抗日救国宣传，发展抗日救国会和民族解放先锋队等组织，以壮大抗日救国力量。在发展新党员和救国会会员、“民先”队员时，既要十分注意巩固党和一切团体组织，防止敌人破坏，又要反对关门主义，充分发挥统一战线组织的作用，拥护红军北上抗日。黎玉还指出，赵健民同志在过去几年，克服一切困难，联系了不少同志，积聚了不少力量。所以，乡师支部的经验可以作为典型加以推广。
为尽快恢复各地方党的组织，黎玉决定，抓紧挑选一批干部建立各地区中共党组织，济南市委可逐步建立，仍由赵健民兼任书记，林浩协助联系各个学校的党组织，动员学校支部的党员，回家乡寻找党员关系，建立地区特委、工委、县委。
黎玉还决定，省委机关工作人员要精干，要选择那些既对党忠实可靠，又能脱离生产、愿意为党工作的同志到省委机关来。如，两种交通员的建立，省委与北方局党刊印刷机构等，只有特别可靠的党员担负这些工作，才能上下沟通，及时知道中央与北方局的方针、政策和指示；通信地点的建立更要牢靠，才能有助于党的秘密活动。经仔细研究，决定调寿张县乡师支部学生章士劳担任刻蜡版油印员的工作，商业学校孙洪任省内交通员，濮县徐庄的徐宾负责省委与北方局之间的直接交通，往返济南与天津之间。
对于庆祝五一国际劳动节，黎玉决定不再专门布置庆祝活动，改为在各自许可的环境下和群众一起学习抗日救国文献，研究如何解救劳动人民的苦难。不再像过去那样把五一节或其他纪念节日当作“冒险主义教徒的礼拜日”；不再散发传单、宣言，不再组织罢工、游行、示威等等。
省委虽然成立，但为了便于工作，避免暴露，黎玉决定暂时不用省委的名称，下达通知和文件时用山东省工委的名义，并尽量口头传达，以利保密。
这次会议是中共山东党组织的一次历史性会议，它标志着重建后的中共山东省委自此又取得了中共中央正确路线的领导，结束了王明“左”倾冒险主义路线对山东党组织的危害与影响。省委制定的在新的历史条件下尽快恢复发展山东党组织的正确原则和工作方针，使党组织的恢复和发展进入了新的阶段，是中共山东党组织发展史上的重大转折。
（三）发表《为抗日救国，反对华北五省 “自治”宣言》
山东省委重建后，黎玉将山东省委重建工作情况和山东党的基本情况向北方局写了报告。不久，北方局回信，对黎玉恢复山东党的工作，重建山东省委表示满意。同时，北方局对山东党的工作也进行了表扬。
1936年6月，交通员徐宾从北方局取回一批中央文件和北方局给山东省委的100元活动经费。对于中央文件，黎玉连夜组织山东省委的同志学习、讨论，使山东省委对中央的方针、策略、路线以及全国的形势有了一个比较全面的理解。对于北方局给的活动经费，黎玉要求节约使用。经过研究，用它买了一架油印机，以翻印党中央和北方局的文件。而黎玉和赵健民等人则大多是早上喝粥，吃块烧饼，中午和晚上到小饭馆吃点黑麦面饼、牛血、豆芽菜，喝绿豆稀饭。
在学习了中央文件，了解了中央方针后，黎玉起草了《为抗日救国，反对华北五省“自治”宣言》，并以“中国共产党山东省工作委员会”的名义发表。
《宣言》在揭露了日本帝国主义妄图灭亡中国的野心和国民党反动派丧权辱国的罪行后，提出了八项主张：（一）停止内战，一致对外。
（二）各党各派响应中共中央的号召，立即联合起来，组成广泛的抗日民族统一战线，进行抗击日寇的一切准备工作。
（三）响应中共中央的号召，“召集全国抗日救国代表大会，组织国防政府与抗日联军”。
（四）实行言论、集会、结社、出版、信仰的完全自由，释放一切政治犯。
（五）欢迎三路军将士恢复二八年北伐时胸前所佩戴的“为恢复不平等条约誓死拼命”精神，英勇地加入抗日联合战线。
（六）打倒汉奸、亲日派、卖国贼！（七）各党各派抗日人民战线万岁！（八）中华民族自由独立万岁！
《宣言》散发后，引起了各方的强烈反映，一致认为“停止内战，一致对外”的主张是正确的。从此，各党各派各界抛弃旧怨宿仇，团结起来，共同抗日的主张开始深入人心。此后，山东省委在黎玉的领导下，确立了今后的工作中心：通过抗日救国会和党的其他外围组织，开展抗日民族统一战线，反对日本所推行的华北五省“自治”运动。
7月上旬，济南乡师党支部成员姚仲明，在济南全福庄小学被国民党特务逮捕，黎玉和赵健民在房东的帮助下，摆脱了危险，转移到丁家涯路北的一所客栈住下。黎玉对赵健民说：“特务昨天搜捕你，今天又逮捕了姚仲明。看样子，他们对我党的活动有所察觉，我们必须警惕，告诉各支部要有所准备。我们俩也须躲避一下。”①经过商量，黎玉和赵健民决定暂时到肥城县民众教育馆的玉皇山实验区隐蔽，济南市委书记暂由林浩兼任。8月下旬，黎玉和赵健民返回济南。9月19日，省委印刷机关遭破坏，担任印刷工作的章士劳和担任交通工作的徐宾被捕。黎玉和赵健民迅速安排了应急工作，使省委避免了更大的破坏。27日，赵健民因叛徒指认而被捕。
赵健民被捕后，黎玉立即组织人营救，并给赵健民写了一封亲笔信。
民弟：
你的被捕，使大家感到震惊，是工作的一大损失。你能在被捕受酷刑的第二天就送信来，使知道你被捕，并决心不连累任何朋友，这又使我们十分赞佩。
现在是国难当头，亡国的大祸，四亿五千万炎黄子孙受奴役的惨局，迫在眉睫。每一个有良心的中华儿女，都应当立即抛弃前嫌，停止敌对行动，一致对外。在当前的民族危机万分严重的形势下，这一主张就是过去与我作对的最大的当权者的大部或全部参加，都是可能的，至于地方的当权者随着形势的发展，参加的可能性当更大。这一点，吾弟要十分注意，要利用一切场合，阐明我们的主张，这不但对周围影响有利，如能一定程度的打动有关领导，也可能对吾弟的官司有利！切切，切切！
我们在外边的朋友，正尽一切可能托请一切关系，进行对你的营救。
顺致
敬礼
愚兄 阎子岳十月X日
收到黎玉的信后，赵健民按照黎玉的指示，利用一切机会，宣传我党的抗日主张。抗日战争全面爆发后，经过与韩复榘谈判，赵健民与其他被捕同志被释放出狱。
（四）恢复和发展山东各地党组织
山东省委重建后，最迫切的任务就是恢复和发展全省各地的党组织。当时，山东全省已没有一个完整的县委，莱芜有县委，但受叛徒刘白戈的威胁，不能正常地开展工作。在黎玉的主持下，山东省委依据积极慎重的原则，坚决纠正过去“左”的错误指导思想和行为方针，在全省各地展开恢复和发展地方党组织的工作。
恢复和重建山东地方党组织的第一步是纠正过去的冒险主义和关门主义错误，吸取历史教训。1936年5月，黎玉和济南市委一道，组织在济南的党员，学习刊在中共中央北方局机关刊物《火线》上的中共中央文件、决议和毛泽东、刘少奇的文章，引导党员认识过去山东党组织在工作中的冒险主义、关门主义错误，从中吸取经验教训，提高理论水平和斗争艺术，彻底纠正过去那些盲目的、不顾条件的组织工人罢工、学生和群众集会以及示威游行等“左”倾冒险主义做法。
第二步是寻找失去组织关系的老党员和地方党组织。山东地方党组织被破坏后，许多党员和基层党组织失去了组织关系。黎玉认为，如能找到这些老党员和幸存下来的地方党组织，就能加快山东地方党组织的恢复和重建工作。当时，济南乡师支部里有许多来自山东各地的学生党员。如，王文轩、朱春和来自寿光，白学光来自博兴。黎玉一一约他们谈话，动员他们利用暑假的机会，回家乡寻找老党员和地方党组织，传达中央的方针、政策，利用现有的地方关系建立地区特委、工委和县委。黎玉还要求他们组织抗日救国会、小学救国会等抗日救亡团体。
为此，黎玉确定了恢复地方党组织和党员关系的原则：凡失掉联系的县、区一级党组织，查明情况，可批准恢复，必要时可就地选拔党员干部予以加强和调整，事后报省委；凡失掉关系的党员，查明原因，一直坚持党的工作的，立即恢复关系，没有坚持工作的，可先参加抗日救国会；凡青年团员失掉关系的，如本人要求参加党，可酌情介绍入党。
此外，黎玉还请求北方局将冀鲁豫边特委的刘宴春调来山东工作。
经过几个月的努力，山东省委先后建立和恢复了中共鲁西北特委、鲁西特委和部分县委等领导机构。
赵健民被捕后，林浩、白子明先后任济南市委书记。到1937年6月，全市共有党员150多人。
鲁西地区的范县、朝城、濮县的党组织，原隶属于中共直南特委和冀鲁豫边特委。1936年6月，经北方局同意，黎玉决定建立鲁西北特委，统一领导原冀鲁豫边特委所属的濮县、范县、莘县、朝城、临清各县的党组织，以及原鲁西特委所属寿张省立第八乡师、聊城师范的党员和冠县、阳谷、东阿等地的党组织。鲁西北特委的领导成员由3人组成，刘晏春任书记，徐运北任组织部长，刘仲莹任宣传部长。1937年6月，根据形势和任务的需要，黎玉决定将鲁西北特委分为鲁西北和鲁西（又称鲁西南）两个特委，以原鲁西北特委北部的冠县、莘县、堂邑、聊城、馆陶、临清、博平、清平、茌平等县的党组织，建立新的鲁西北特委，由刘仲莹任书记。以原鲁西北特委南部的寿张、阳谷、朝城、濮县、范县、观城等县党组织，建立鲁西特委，由刘晏春任书记。
鲁东地区，1936年5月山东省委重建后，在外地的共产党员陆续秘密返回家乡，党的队伍逐渐扩大。寿光党组织与省委取得了联系。黎玉指示寿光党组织，要积极恢复组织，进一步壮大力量，先建立临时工作委员会，待时机成熟再建立县委。下半年，黎玉先后派巡视员鹿省三、景晓村、张天民到寿光县检查指导工作，听取了当地支部的工作汇报，对他们坚持斗争的顽强精神给予肯定，要求他们进一步发展壮大组织，积蓄力量，迎接新的革命高潮。景晓村还先后对博兴、广饶、潍县、益都、临朐等地的工作进行了巡视和指导。同年8月，寿光县工作委员会建立。秋，改为县委，由陈少卿任书记。这是自1933年7月山东党组织被严重破坏后，鲁东地区重新建立的第一个县委。
与此同时，黎玉派遣张智光回到原籍昌邑县，建立了县委，并担任书记。1937年7月，济南乡师的党员高启运、孙毅民等根据黎玉的指示，利用暑假回到家乡临朐县开展党的工作，先后建立了赵家楼和孙家小崔村党支部。1937年4月，为进一步推动鲁东地区的工作，黎玉派鹿省三到昌邑、潍县、寿光一带，传达中央和省委的指示，贯彻抗日民族统一战线的方针、政策，发动抗日救亡运动，发展党的组织。鹿省三在工作中要求当地党组织利用“民先”的影响，接触国民党的政府官员和各界知名人士、社会贤达，向他们说明民族危机和中国共产党的救亡政策，希望他们组织民众抗日。在这次巡视中，鹿省三将昌邑、寿光县委联系起来，在潍县发展了一部分党员，恢复了一部分老党员的组织关系，使鲁东地区的工作出现活跃局面。
在鲁南、淄博等地区，1936年6月，黎玉派宣传部长林浩到费县师范讲习所，以教书为掩护，恢复了原临郯县委一些党的关系，发展一批党员，并于11月建立费县县委07月，黎玉派前淄博特支书记张天民重返淄博矿区，恢复建立党组织。张天民在淄川矿区和附近农村广泛联系群众，宣传党的抗日救国主张，物色工人运动积极分子，从中培养发展党员，先后建立了淄博矿区党支部、佛村党支部。
1936年6月初，根据北方局提供的情况，黎玉派鹿省三到博山吸收受北平“民先”总部领导的博山“民先”负责人蒋方宇等人为中共党员，建立了博山特别支部。1936年10月，黎玉整顿了莱芜县委，调秦云川担任莱芜县委书记，并将叛徒刘北戈认识的人调出，使莱芜县的工作恢复正常。此外，黎玉还派人到泰安、肥城、新泰等地，与当地的党组织和失去联系的党员取得了联系，使这些地方的党组织得到恢复和发展。
山东省委重建后，在不到一年的时间内，在黎玉的主持下，山东省委恢复和发展了全省各地的党组织，使党的春风又吹遍齐鲁大地。
（五）第一次见到毛主席
1937年4月，黎玉接到中共北方局的通知，到延安参加党的全国代表大会（当时称苏区代表会议）和白区工作会议。20日，黎玉到达延安，住在中央招待所。在延安，黎玉第一次见到名扬四海的毛主席、朱德总司令和许多著名的红军将领。毛主席和刘少奇，还亲自到招待所看望了直南、冀鲁豫边特委和山东省委的代表。毛泽东对黎玉说，山东是有基础的。当前一定要搞好统战工作，为今后的发展创造条件。
5月2日至14日，中共中央在延安召开有苏区、白区和红军代表参加的党的全国代表会议。毛泽东作了《中国共产党在抗日时期的任务》的报告和《为争取千百万群众进入抗日民族统一战线而斗争》的结论，强调在统一战线中坚持无产阶级领导权的重要性，会议批准了遵义会议以来党的政治路线，为迎接全国抗日战争的到来，作了重要准备。5月17日至6月10日，中共中央还在延安召开了党的白区工作会议。会上，刘少奇作了《关于白区的党和群众工作》的报告。会议总结了党在白区工作中的经验教训，批判了”左”倾关门主义的错误，阐述了党在白区工作的基本方针和斗争策略。
黎玉认真听取了毛泽东和刘少奇所作的报告，更加深刻地理解了抗日民族统一战线的意义，明确了山东省党的建设和武装建设的方向、斗争任务和奋斗目标。在延安开会期间，黎玉向中央组织部门汇报了山东党组织恢复的情况，并要求派直南特委的张霖之来山东省委工作。中央同意，并指示今后对外不要用“省工委”名义，就称中共山东省委。
会议结束后，黎玉迅速离开延安，回到山东。
