山东省微山县夏镇人。1922年8月17日,出生于一个亦农亦商之家。4岁入微山县大庙小学就读,8岁转入临城(枣庄市薛城区)铁路学校学习,后转入滕县张汪镇五所楼懋榛小学就读。时任校长李文甫为中共地下党员,张保夫在懋榛小学就读期间逐步接触了进步思想,接受了爱国主义教育,周围聚集了如王继德、吴立品、杨津刚、杨津明、邱富润等进步青年。1937年毕业后,投考济南东鲁中学。1937年“七七事变”后,他加入地方青年救国团,印刷、散发抗日传单、张贴抗日标语等,进行有组织的抗日活动。17岁担任青救团第六团团长。1940年春,张保夫由组织介绍,赴山东省莒南县大店镇(115师司令部驻地暨山东省政府诞生地)参军。同期,被选送到抗大一分校第七期学习,同年11月,加入中国共产党。