1948年底，中共渤海区党委根据会议要求，认真研究部署了分批抽调干部随军南下的工作，并确定第一批南下干部先从一地委（军分区、专署）抽调，组成渤海三支队第一大队，并任命张华墀任大队长，燕明任大队政委兼大队党委书记，周华南任大队党委副书记。
　　12月初，一地委指示所属乐陵、振华（宁津）、庆云、靖远（盐山）、南皮、东光、吴桥7县抽调730（实际数超820）多名干部按建制县（乐陵为一、振华为二、庆云为三、靖远为四、南皮为五、东光为六、吴桥为七）为单位组成7个中队。中队设中队长、指导员；各区称为班，设正副班长。12月20日，各县南下干部到一地委驻地乐陵城集中。21日，地委书记李广文作了动员报告。23日南下干部到达渤海区党委驻地阳信县何家坊附近的道门王村，进行了为期14天的学习整训。在这期间，听取了区党委副书记刘格平、行署主任王卓如的讲话，学习了新华社发表的元旦献词《将革命进行到底》。通过学习，大家提高了认识，克服了乡土观念，坚定了南下的思想。
　　1949年1月8日，渤海南下干部三支队一大队由道门王村出发，15日晨到达益都县大陈家华东局驻地附近的王岗一带村庄，与兄弟战略区抽调的南下干部组成华东局党校（张鼎丞任校长，温阳春任副校长），渤海三支队第一大队编为党校第三部。在党校学委会统一领导下参加学习。主要文件有新华社1949年新年献词《将革命进行到底》以及有关城市政策的文件。
　　1949年2月8日，中共中央电令“华东局华东军区机构立即移至徐州，同总前委和第三野战军前委一同工作，集中精力布置南进。”华东局根据中央电令指示华东局党校南移临城（今薛城），并要求党校将各战略区的15000名南下干部编为华东南下干部纵队。2月19日，渤海三支队一大队全体南下干部随华东局党校移至临城以南的沙沟镇一带继续参加集训。
　　1949年春节前后，抽调随军南下干部的工作更大规模地展开。渤海区党委根据上级指示，又从二、三、四地委抽调第二批（一大队为第一批）干部南下，并组成华东南下干部纵队渤海三支队第二大队（三、四地委分别组成第三、第四大队）。刘季青任大队长，李代耕任大队政委兼大队党委书记。肖平任军分区司令员。
二地委根据渤海区党委的指示，召开了各县县委书记会议，要求各县、区的党、政、军、群领导机关都要配备两套领导班子，一套留在当地坚持工作，一套随军南下接管新解放区。并强调要认真做好宣传动员和具体组织工作。各县先后召开了区委书记会议和全县干部大会，进行广泛的政治思想动员，组织干部学习中共中央、华东局关于抽调干部随军南下，开辟新区的指示和有关文件，进行政治、形势和阶级教育。特别是认真学习和热烈讨论了新华社的新年献词《将革命进行到底》，提高了认识，鼓舞了信心，开阔了眼界，增强了顾全大局、服从国家需要的观念，这次学习对动员干部南下起了极大的推动作用。各级党委还提出了“走者愉快，留者安心”的口号，教育干部正确认识随军南下和坚持当地工作都是革命的需要。通过学习动员，广大干部踊跃报名，表示要以随军南下的实际行动，将革命进行到底。在自愿报名的基础上，根据每个干部的工作、身体等具体情况进行研究审批，内定了各地、县、区南下干部的初步名单。
　　 抽调干部随军南下的消息传出后，在一些干部家属的思想上也引起了一定的波动。各县、区领导机关决定趁春节之际，放假让干部回家同亲友话别，做好南下准备和家属的思想工作，使绝大多数家属愉快地支持自己的亲人南下。为了解除南下干部的后顾之忧，各级政府决定南下干部的家属均享受军属待遇。
　　1949年3月1日，二地委、专署、军分区及所属临邑、德县、济阳、德平、匡五、禹城、商河、杨忠、齐河、平北等县南下干部1000余人，到地委所在地临邑县集中。大队作了统一编制，按序号（临邑为一、德县为二、济阳为三、德平为四、匡五为五、禹城为六、商河为七、杨忠为八、齐平为九）以县为单位编为9个中队，县以下各区的架子编为班，并宣布了各中队、班的负责人。在此，二地委召开了欢送大会，地委书记田海山代表地委、专署讲话。主要讲了全国解放战争的大好形势和干部南下的重要意义，并对南下的同志提出了具体要求和希望；渤海三支队二大队政委李代耕（二地委副书记）代表全体南下干部做了表态发言，表示一定不负人民重托，努力完成党交给的光荣任务。通过集中后的初步整训，广大南下干部对随军南下的任务更加明确，进一步增强了到新区工作的信心和决心。
　　1949年3月上旬，根据华东局的安排，华东南下干部纵队渤海三支队所属二、三、四等大队，在当地党、政、军、群的欢送下，浩浩荡荡地踏上南下的征程。整个南下队伍先后分两批出发，第一批由陈放、杨信、陈彬等负责带领各大队前进；第二批由周贯五、刘格平、李文、彭瑞林等带领南下干部三支队机关南下。各部先后步行到济南，然后乘火车抵达临城以南的沙沟一带，与已先期到达此地的渤海南下干部三支队一大队会合。此后，一大队把华东局党校第三部的工作移交给三支队，由支队领导组成新的部委会，朱则民任书记；各大队常委会改为总支委会。在此，全体南下干部作为华东局党校的学员，集中进行整训学习。主要学习了《中国共产党七届二中全会决议》、《中共中央关于批准华东局关于接管江南城市的指示的指示》、《华东局关于接管江南城市的指示》、《中国人民解放军布告（约法八章）》、《中共中央关于保护工商业问题的指示》、《中共中央关于接受官僚资本主义企业的指示》、《中共中央关于对“自由资产阶级”及“开明士绅”的政策的指示》、《中共中央关于国民党三青团及特务机关的处理办法的决定》、《中共中央关于军事管制问题的指示》、《华东局关于江南新区农村工作的指示》、《入城守则》等文件，并先后听取了饶漱石、刘瑞龙、刘格平、周贯五、张蓬、肖平、燕明、王文长等同志的报告。通过这次较大规模的集中学习整训，提高了广大南下干部的政治理论水平和执行党的路线方针政策的坚定性和自觉性，坚定了南下干部革命必胜的信心，为顺利接管好新区的各项工作奠定了重要的思想基础。
　　在沙沟整训期间，随着解放战争形势的发展和需要，华东局又指示渤海区党委继续抽调干部南下。1949年2月下旬，华东局组织部在了解先期到达临城沙沟的一大队南下干部的情况后，认为干部人数太少，县（即中队）的架子也不够，要求一大队必须配齐13个县的架子（当时一大队仅有7个县的架子）。一大队总支委委员关器根据这一指示，回渤海区请示增调干部。渤海区党委决定从一地委抽调14名县级干部和几十名区级干部，从渤海公校、财贸干校抽调300多名学员，调补一大队。此时，一大队已达1100余人。3月9日，华东局组织部指示一大队分建为一、五两个大队，县级架子由原来的7个中队分建为13个中队（在此，乐陵中队分为三部分，即三个中队）。渤海南下干部三支队任命陈彬任第一大队大队长，燕明任政委，钟正斋任副大队长，汤振连任政治部主任；刘荣华任第五大队大队长，周华南任政委，张华墀任副大队长，黄德钦任政治部主任。至此，华东南下干部纵队渤海三支队下辖一、二、三、四、五、六（在抽调干部南下工作中，从渤海区各机关及所属各单位抽调了大量干部，又编入华东大学毕业学生300多人，组成六大队）等6个大队，干部人数达5000多名。
在渤海三支队四大队提前随军行动之后，一、二、五大队随渤海三支队领导机关及其他大队（三、六大队）于3月29日离沙沟南下。30日乘火车经徐州转陇海铁路在瓦窑车站下车，徒步行军沿淮阴、淮安，宝应、界首、高邮、扬州，抵达长江北岸。为防敌机袭扰，隐蔽待渡。
　　这次行军基本上是沿古运河东岸前进，行军路上，除成千上万的南下干部外，还有支前的民工运输队，挑担推车，满载着粮食、弹药、被服等各种物资，滚滚向前；解放军的炮车奔驰而过，日夜兼程；运河中长长的运输船队鼓帆奋进，浩浩荡荡，汇成了一支人民战争的雄伟乐曲。
　　5月1日下午3时，渤海三支队南下干部奉命在六圩登船渡江，当夜急行军40余里到达丹阳附近的新丰镇。在这里渤海三支队进行了南下途中的第二次学习整训。学习的主要文件有《城市接管工作学习提纲》、《入城纪律十二条》、《城市生活常识》等；传达了华东野战军司令员陈毅在丹徒向准备接管上海市的负责干部所作的报告。
　　渡江之后，随着战争胜利的推进和形势的发展，华东局决定渤海区南下干部一部分到上海市参加接管工作，大部分进军浙江。同时，渤海南下干部三支队决定撤销五大队建制，充实到一大队的地委、专署、军分区领导机构，所属13个中队暂不变动，张华墀任大队长，燕明任政委，并宣布了南下地委、专署、军分区领导干部配备名单。5月4日，三支队的一、二大队随同一支队（鲁中南下干部组成）开赴浙江。一大队的吴桥中队和乐陵中队的部分干部奉命与鲁中南区的八大队，分配到嘉兴地区的桐乡和嘉善两个县工作。一大队所属其他中队和二大队南下干部于5月12日到达杭州市。
　　在杭州市，中共浙江省委书记兼省长谭震林召开了各地区南下干部带队负责人会议，省委副书记谭启龙作了关于浙江省基本情况和接管任务的报告，接着又召开了解决具体问题的会议。5月17日，一大队奉命由杭州沿浙赣铁路乘火车西进。19日到达衢州同当地驻军接洽安排，即由一地委、专署、军分区机关抽组接管班子，协同李书林带领的以盐山部分干部为基础的一个中队接管城区工作；石青、贾文贤带领宁津干部为主的中队进入衢县；苏陆、赵子修和曹墨亭带领以盐山另一部分干部为主的两个中队分别进入江山、龙游两县；张复兴、栋良山带领以乐陵另一部分干部为主的中队进入常山县；李征凡、王俊生带领以东光干部为主的中队进入开化县；崔玫光、张访春带领以庆云干部为主的中队进入遂昌县。
　　二大队的南下干部大部分留在浙江省级机关和杭州市工作。其中包括德县、济阳、德平、匡五、禹城、杨忠、齐河、平北等县的部分干部。另外，一大队的乐陵、宁津、东光、吴桥等县的部分干部和二大队的德县、济阳、匡五、商河等县的部分干部，分配到绍兴地区的上虞县、诸暨、嵊县、新昌等9个县城乡；一大队以南皮干部为主的中队，二大队以临邑干部为主的中队，以及平北、禹城等县部分干部分配到宁波地区的宁波市、慈溪、余姚等城乡。