1919年10月10日出生于黑龙江省汤原县香兰镇木良村。1935年1月参加汤原反日游击队(后改编为抗联第6军),他打仗特勇猛,1936年2月东北各抗日部队统一改编为东北抗日联军时,调到抗联第3军(原东北人民革命军第3军,军长赵尚志)稽察处、少年连任机枪手;4月,伪满汤原县山林警察大队长于桢率部加入抗联编为第3军独立旅后,赵尚志军长派张祥等人到于桢部任政工干部;年底开始先后任抗联3军9师75团1连机枪班班长、排长、连长。1938年2月随9师和兄弟部队共五百余人攻袭萝北县城肇兴镇后,为避开日军主力追击和迎接赵尚志回国而进入苏联境内的满走夫克休整。1939年5月任抗联绥滨游击团副大队长,6月赵尚志在苏联被任命为抗联总司令,带领105名战士由萝北县太平沟和佛山县之间的观音山附近进入国内,首战乌拉嘎金矿取得胜利,接着又先后打掉了两个日军测量班(我的博文链接:《日军侵华军用地图(1938年)》),按照苏军要求,赵尚志派刘凤阳、张祥、赵有才、江乃民、尚连生5人将缴获的测绘仪器、绘图资料等送往苏联。1940年冬,东北抗战进入最艰苦的时期,抗联全体官兵只剩下不到两千人(抗联人数最多时,是在1937年秋,达三万余人)。为积蓄力量,抗联逐步转到中苏边境地区继续斗争,接着陆续离开了小兴安岭进驻苏联伯力地区整训,组成抗联教导旅。1942年8月,抗联教导旅纳入苏联红军统一编制,番号为“苏联远东红旗军第88独立步兵旅”,准备苏联出兵时配合苏联红军打回东北。当时在东北只留下包括张伯伯在内的50多人分成5个小分队在黑龙江坚持战斗。张祥1941年任12支队小队长,到了1943年88旅派人到东北寻找他们进入苏联境内,只找到了金策、张瑞麟、张祥、张相龙、安福、刘铁石和李桂林7人,这是最后一批进入苏联的抗联人员。1944年1月张祥到苏联编入88旅第4营(营长是朝鲜的姜健,原名姜信泰)任侦察队少尉队长。1945年8月初,在苏境整训的抗联即88旅配合苏联红军反攻东北击败了日本关东军,在占领的各个城市里统一成立了苏联红军卫戍司令部,由苏方担任司令员,抗联人员担任副司令员,这时的张祥被任命为巴彦卫戍司令部副司令员,他在巴彦开仓放粮,扩大抗联的影响,又到巴彦中学动员学生参加抗联,当时就有一百多个学生站起来参军,接着收缴了伪警察大队的一百多支步枪,几天后,巴彦的抗联部队便发展到了3个营共1500多人。此后,先后出任松江军区第2分区第5团、宾县独立团团长。1946年4月任哈北军分区副团长,1948年10月任东北军区4师15团副团长,后到炮兵学校学习半年。解放后,张祥转入海军直到离休。曾任海军炮兵学校第5大队队长、副团长,1953年1月入沈阳高级炮校学习,1954年7月任海军高射炮2团团长,约1957年任海军青岛基地防空兵副司令员兼高炮司令员,1958年任海军旅顺基地防空兵司令员。1960年,张祥任海军第四航空学校校长兼阆中卫戍司令部司令员。