一九四四年初，山东军区决定，趁日军抽兵增援太平洋战场，敌后收缩兵力之际，发动战役攻势。我鲁中军区在春季攻势取得第三次讨伐伪军吴化文战役胜利基础上，于八月对盘踞在沂水城之敌伪发起了攻坚战役。经过一天两夜的激战，全歼守敌，打死日军五十三人，俘获二十人，毙伤伪军二百余人，生俘伪县长牛先元以下八百余人。攻克沂水县城是山东战场局部反攻中的一次重大胜利。
沂水城在沂蒙山区腹地，依山傍水，地势险要，交通方便，与临沂、莒县、益都、博山、蒙阴等五条公路相连，战略地位重要。一九三九年日军侵占后，以此作为分割我鲁中与滨海两个战略区的主要据点，是侵扰“扫荡”我沂蒙根据地的主要指挥中心，也是法西斯特务队的所在地。为了控制和巩固这一战略要地，日军构筑有坚固的工事。城内有伪县长朱先元八个中队，千余人；南门外是日军新建独立据点，有三米高的坚固围墙。还在东南角、正东、东北角、西北角、西南角和中心建有六个大炮楼。墙外有壕沟，宽五米，深三米，积水一米多。壕外有鹿砦和铁丝网，工事十分坚固。有日军一个中队，一个特务队，共三百余人守备。沂水城四周设置八个小据点，每个据点都有伪军把守，和沂水城之间敌伪相呼应，形成了一个坚固而完整的防务体系。
山东军区司令员兼政治委员罗荣桓同志领导制定了山东省的战略方针。完全控制沂鲁山区，扩大诸（城）、日（照）、莒（县）山区根据地，夺取深入我区之孤立的敌伪据点，扩大解放区，使我胶济路南的三个战略区（鲁中、鲁南、滨海）完全连成一片；向胶济路东段两侧地区发展，以打通和加强胶济路南北各战略区的联系；在胶济路北，彻底改变渤海区被敌封锁分割的局面，变游击区为根据地；进一步肃清胶东腹心地区的敌伪势力，创造更有力的局面。作战原则是：分散的群众性的游击战争和主要方面的集中兵力作战相结合，军事攻势和政治攻势相结合，集中优势兵力，攻克孤立突出的敌伪据点，占领有利的反攻阵地。
根据山东军区的统一战略意图和罗荣桓司令员的指示，鲁中区党委和鲁中军区领导同志多次开会研究，决定先取沂水城，与滨海地区连成一片；后夺蒙阴城，再与鲁西地区连成一片。为此，一九四四年六月以前，我先于益都以南作战，攻克大关、小关、蒋峪三个据点，断敌沂（水）益（都）公路。再与蒙阴以南作战，彻底粉碎了敌人设置的环蒙(山)封锁线。后在沂水城南作战，攻克大虎头、孟家围子、袁家围城子三个据点，断敌沂（水）临（沂）公路。终于把敌人五条公路汇合的沂水城核心据点变为仅与莒县一条公路连接的前沿据点，使沂水城西、北、南直接暴漏在我军威胁之下，陷于孤立状态。下一步作战就是直接攻城了。攻城作战的要求是：步兵与爆破相结合，攻城与打援相结合，隐蔽主力，奔袭包围，速战速决，在敌援兵到来之前结束战斗。
攻坚作战，在鲁中军区是首次。为了不打无把握之战，要在战前做好各方面的充分准备。
我们没有飞机、大炮，攻坚作战只能用炸药爆破，所以首要的是炸药和雷管的准备。当时没买不到炸药，炸药是敌占区的新泰、博山等煤矿工人，冒着生命危险从矿坑里带出来的。有的藏在饭盒里，有的藏在腋下，一块两块地带出来。积少成多。几个月的时间，凑足了千斤炸药和相应的雷管，通过地下党送到军区。有的工人把炸药藏在身上从矿坑往外带的时候，被日军和汉奸查出来，当场遭到枪杀或活埋。战士们在战斗中使用炸药时，想到炸药来之不易，斗志更旺，决心更坚，在战斗中不怕牺牲，勇往直前。
攻坚训练也是战前准备工作的重点。重点中的重点是训练爆破骨干，怎样捆炸药包，怎样安装雷管，怎样用导火索，怎样利用地形地物，怎样在夜间连续爆破。特别强调刺杀、投弹、射单兵技术训练以及夜战、巷战、攻坚战和“三组一队”（火力组、云梯组、爆破组和突击队）的战术协同作战，并模拟训练。
估计敌人很可能用化学武器，就用土办法制作防毒面具，多层纱布用药水浸湿，中间夹大蒜、西瓜皮、大叶菜，以助解毒。
掌握敌情特别重要。采取各种侦查手段，取得情报，以寻找战机，实施机动作战。特别强调战场现地侦察。四团副团长高文然和侦查参谋戴成功，利用暗夜摸到了日军据点西南角炮楼下面，隐蔽在铁丝网边的南瓜藤下进行观察。又到城南关离日军据点最近的居民院内，观察东南炮楼情况。当场确定，首先攻击东南炮楼，团指挥所就设在此民房内。
攻城部署是这样的：主攻日军据点，四团一营从南向北，二营从北向南，两面夹攻。三营在沂（水）莒（县）公路上阻击莒县增援之敌，打退援兵后，作为团的攻坚预备队。
以一团为主，十一团一营配合，从北门、东门和西门攻击沂水城伪军主力，消灭伪军后，策应四团攻击日军据点。十一团二、三营攻坚城西黄山铺伪军一大队，并近距离阻击蒙阴可能来援之敌。二团一部在蒙阴城以东，远距离打击蒙阴东援之敌。
军区特务营负责攻歼城南斜午伪军，视情况配合四团一营攻击日军据点或配合三营阻击莒县来援之敌。其他外围据点，由地方部队围攻。
当时鲁中军区司令员王建安带各团团长去山东军区开会，确定此次战役由军区政委罗舜初，区党委副书记高克亭和我直接指挥（我任军区参谋处长）。攻日军据点的指挥员是四团副团长高文然同志。
八月十五日黄昏后，各参战部队以隐蔽奔袭形式进入攻击出发阵地。罗舜初政委、高克亭和我率战役指挥所前去四团攻坚指挥所附近的南关居民房内，听取了四团攻坚部署和参战部队的电话汇报，检查了攻击准备情况后，发出了以四团攻敌东南炮楼为号的总攻命令。顿时，枪声大作，硝烟弥漫，各路部队如猛虎下山，扑向敌人据点和沂水城垣。
四团一营三连先隐蔽向东南炮楼外壕匍匐架桥，被敌人发觉。架桥组的石会全中弹倒下，其余战士抢起梯子跳进外壕，被敌火力封锁。与此同时，二连向西南炮楼发起攻击，激战四十分钟，火力组掩护架桥组连架三次，牺牲多人才把桥架好，又被敌火力封锁。班长彭长庚抱起炸药包急速往前爬行，预备爆破手徐广和紧跟其后，在被敌火力封锁的生死关头，彭长庚翻身滚到沟里。敌人失去扫射目标后，一时停止射击，彭长庚趁机飞上外壕，这时，炮楼里机枪又响了。他左躲右藏，机智地躲过敌人的射击，直扑炮楼。一声惊天动地的爆炸，西南炮楼在浓烟中塌到了，缴获迫击炮一门。彭长庚拾起敌人三八步枪随二连突击队攻入了围内，向纵深追击，与敌人展开白刃战。反复冲杀五次，将敌击退，向东攻击前进。在二连攻克西南炮楼的激励下，一连班长张克有大喊一声：“上去架桥，死也死在这里!”牺牲数人后终于架起了云梯。爆破手李希增迅速踏上云梯。突然，炮楼里传出一阵枪声，李希增抱着炸药翻滚到外壕里，在泥水中顺着外壕里沿，爬上堤岸，贴近炮楼墙根，点燃了导火索。瞬时“轰隆”一声巨响。突击队用铡刀、手榴弹开路，通过炸毁的缺口，冲进小围子，穿过房屋，越过短墙。徐洪亮、王玉林等几十人与敌展开了白刃战，反复冲杀二十余次，转入激烈的巷战。突击队一面警戒中心炮楼敌人，一面沿南墙向西发展，与二连回合一处，向中心炮楼钳形攻击前进。
十六日拂晓时，高文然进入被炸塌的东南炮楼处向北观察，发现东炮楼底层地面上，挖了一个很大的射击孔，敌人卧姿向我们突入围内的部队侧面射击，阻击我前进。这时，高文然的警卫员刘玉章突然扛起炸药包，绕道向东炮楼跑去。高文然立即命令一连用机枪掩护。“轰隆”一声巨响，炮楼炸塌，炮楼中敌人全部丧生，刘玉章不幸中弹，壮烈牺牲。
日军据点北墙，紧靠沂水城南墙，两墙之间兵力难以展开。我四团二营首先攻占沂水城南门及南城墙后，由北向南攻击日军据点。盘踞在东北角炮楼和中心炮楼的敌人，为挽救其死亡的命运，竟采用灭绝人性的手段，施放大量毒气，我三十多名战士中毒倒地。时近拂晓，我军不得不暂停攻击，救出中毒战士，收缩部队，守住小围南半部，待黄昏后再发起攻击。
八月十六日上午，聪明机智的四团二营营长刘振江在南门楼上观察小围内敌人动静，趁东北炮楼敌人去中心炮楼之际，组织四连巧妙地占领了东北角炮楼，约二十分钟，敌一个小队返回炮楼时，突然被我用机枪、手榴弹一阵猛打，大部被打死，只有三人向中心炮楼逃去。至此，敌人被迫退守中心炮楼和西北角平房和炮楼，守堡待援。双方对歭到黄昏。
八月十六日晚总攻开始，攻城部队在火力掩护下，对城门、城墙、火力点实施连续爆破，云梯组迅速架起云梯，突击部队爬墙强攻。激战不到三十分钟，一团一营攻占北门，二营攻占东门，十一团一营攻占西门，一团和十一团由东、北、西三面向城中心攻击前进。经过激烈巷战，当晚将城内伪军、伪警察及伪政府人员大部肃清。伪军二百余人退守钟鼓楼被我包围起来。十七日上午，我利用伪军家属和俘虏开展政治攻势，迫使其缴械投降。十一团二、三营于十五日晚全歼黄山铺伪军，战斗结束，俘伪县长朱先元以下八百余人，毙伤二百余人。一团集结做好参加攻占日军据点的准备。十一团打扫战场，并向蒙阴方向警戒，准备近距离打击莒县来援之敌。
十六日，莒县伪军乘八辆汽车匆匆赶来增援，遭我四团三营伏击，打得敌人丢盔弃甲，伤亡十四人，弃尸六具，狼狈回窜。蒙阴也出动一部分敌伪东援，行至坦埠附近，被我二团伏击，将敌击溃。
十六日晚，我四团将中心大炮楼和西北炮楼分割后，决定上半夜强攻西北炮楼，对中心炮楼佯攻，消耗疲惫敌人，午夜后强攻歼敌。四团二营组织投弹组、刺刀组和爆破组，由东北炮楼沿南围墙西侧，向西北炮楼搜索前进。西北炮楼的敌人三五成群的走下来，占领巷道、房屋，疯狂反击，展开激烈的巷战。战士们浴血奋战，近距离爆破，午夜前攻占了西北炮楼。
午夜后对敌人中心炮楼进行连续爆破实施强攻。敌人用迫击炮向炮楼四周投弹，阻止我接近。我在步、机枪火力掩护下，进行第一次爆破，牺牲一人，负伤四人，未奏效。第二次由四连范均庚连长和梁兰清排长率爆破组进行爆破。范连长扛起一包三十五公斤炸药，顺着一条胡同扑向中心炮楼。把炸药放在大炮楼外沿工事上，点燃了导火索，将中心炮楼西北角炸开一个洞，敌人用机枪、刺刀堵住洞口，并从洞里投出迫击炮弹，梁排长牺牲，范连长负重伤。高文然到东北炮楼抵近指挥，中心炮楼之敌又施放毒气弹，因我战前做了充分准备，立即用土办法解毒。待毒气消散后，用预备队接替中毒的战士，继续向中心炮楼攻击。因两次爆破未奏效，攻坚战达到白热化程度。在这重要时刻，我到四团指挥所问高文然是否用一团主攻。高说：“首长放心，拂晓前一定解决战斗。”经查明，爆破未奏效的原因，是中心跑楼底层约一米高处用厚土堆成斜坡，炸药包贴不到墙上。于是派爆破英雄、副排长万保全和一名战士，把五十公斤炸药捆在一起进行第三次爆破。在我火力直接掩护下，飞快贴近中心炮楼，把炸药贴在炮楼墙上。万保全点燃导火索，一声巨响，滚滚浓烟直冲上空，天摇地动，中心炮楼彻底炸塌了，守敌全部消灭，英雄万保全壮烈牺牲。天将拂晓，战役全部结束。
中心炮楼被炸塌后，罗舜初政委、高克亭同志和我进入围内，指挥打扫战场并准备召集部队进行现场爆破表演，以便打一仗提高一步。不料躲在平房内残存的四个日军，突然“嗷”的一声跳出来，端着刺刀迎面向我们扑来。情况危急，机警的警卫员和四团三连战士迅速越过我们冲过去击毙了敌人，化险为夷。
历时一天两夜的沂水攻坚战役胜利结束。随即打扫战场，动员群众万人拆除城墙、炮楼，填平外壕，防敌重建据点。
