1915年10月生于江西崇义县。1930年加入中国少年先锋队。同年加入中国共产主义青年团。1931年参加中国工农红军。1932年转入中国共产党。任红3军团第5师15团排长。参加了中央苏区第四次、第五次反“围剿”作战。1934年10月随中央红军主力长征,任第5师15团连政治指导员。到陕北后,任红28军第1团连政治指导员,中革军委警卫团连政治指导员。1937年初入抗日军政大学学习。 土地革命战争时期,余光茂历任红三军团七军二十一师三十二团班长、红三军团五师十五团代理排长、政治指导员、陕北红二十八军一团政治指导员兼连长等职。参加了崇义、金坑、贵东、南封、杨口、南平、广昌及中央苏区第三、四、五次反“围剿”等战役战斗,并随红一方面军参加了举世闻名的二万五千里长征。到达陕北后,又参加了吴起镇、神木等战役战斗。1936年6月入延安抗日军政大学学习。抗日战争初期,余光茂土著从延安到皖南,历任新四军三支队五团宣教股股长、二营政治教导员,江抗四路一支队支队长、江抗一团三营政治教导员、新四军一纵队政治部组织科科长、四纵队七团政治委员、一师一旅三团政治委员、江苏东台独立团团长、苏中二分区独立二团团长兼政治委员、新四军一师一旅二团团长等职。1941年3月入华中盐城党校学习。余光茂参加了著名的郭村保卫战,参与创建苏北抗日革命根据地,还参加了半塔集、马家集、宜陵、黄桥孝丰、和尚店、泰北等多次战役战斗,解放战争时期,余光茂历任华东一纵一旅参谋长、华东四纵十一师副师长、十二师副师长、三十军八十九师师长等职。参加了兖州、泰安、宿北、枣庄、莱芜、孟良崮、费县、诸城、胶河、碾庄圩、淮海、渡江、淞沪等重要的战役战斗。中华人民共和国成立以后,余光茂任二十军八十九师师长。1951年率部参加抗美援朝战争,先后任志愿军二十军八十九师师长、二十军副参谋长。1952年10月入军事学院高级系学习。1955年任二十军副军长,1956年任陆军二十军军长,1965年任上海警备区副司令员,1970年任安徽省军区第一副司令员,1975年任安徽省军区司令员。1955年被授予少将军衔,荣获三级八一勋章、二级独立自由勋章、一级解放勋章。1988年被授予中国人民解放军一级红星功勋荣誉章。他还担任过安徽省委常委,是第四、第五届全国人大代表。是第四、五届全国人民代表大会代表。