原名张栋,字耘斐。山东省郯城县马头镇人。1902年出生于小地主家庭。6岁入私塾,后在本镇竞进小学读书。毕业后任小学教师10余年,1938年参加革命工作。历任郯城县动员委员会、鲁南动员委员会四分会、山东抗敌协会四分会宣传部长,山东省文化协会编辑部、山东省教育厅编审科编辑。在抗日战争时期,他积极从事抗日宣传工作,曾主办抗日《动员报》并亲自撰写文章,宣传中国共产党的抗日民族统一战线政策,该报在临郯地区产生了很大的影响。1948年至1952年,张云非先后任中共中央宣传部教育研究室编辑及学校教育处科员。1954年至1960年任《历史研究》编辑部主任,1960年至1978年任中国科学院历史研究所图书资料室主任,1978年7月任图书资料室顾问,1982年离休。1984年9月12日,张云非因病逝世,终年82岁。