1924年-1928年春，张耀南和三弟张澄秋联合几位志同道合的同学，用自己的家产兴办农民学校和农民成人夜校。农民学校一、二、三、四年级各一个班，五、六年级一个班，一律免收学费，贫家子弟还发给纸墨笔砚、课本。历时4年，家产耗尽，还欠了一大笔债，学校不得已停办。张耀南以教育开路、组织合作社发展农村经济、改造社会的尝试失败了。但他仍不悔原志，以“人不堪其忧，回也不改其乐”的精神继续寻求改造社会的道路。1928年春，张发奎部队到达山东。他们继续打着三民主义的幌子，喊着打倒帝国主义，打倒军阀的口号欺骗人民。闭塞的山乡民众还真觉得新奇。由于叶挺的独立团曾属该部建制，传播了共产党的影响。恐在当时仍不乏国民党的左派和进步官兵。不拉佚，不抢劫村民财物，对群众关系也好。有一个军官看到张耀南家中的藏书甚多，知道主人是个读书人，便主动与张耀南接谈，谈得非常投机，并送给张耀南《建国方略》、《建国大纲》等宣传三民主义的书籍。张耀南急切地阅读了这些书，对三民主义有了较系统的了解。以为三民主义是通向世界大同的道路。苦苦寻求改造社会道路的张耀南，又看到了希望，振奋了斗争的决心。由于生长在农村，和农民有着广泛联系，深知农民的疾苦，希望自然地放在农民身上。张耀南以反对牛头捐，花果税为号召，奔走四乡，发动群众。在万德召开了东南乡一带的农民大会，组织了反抗军阀统治、反对苛捐杂税的轰轰烈烈的农民运动。
1928年秋天的一个上午，近万名农民涌进县城，高喊“打倒帝国主义”、“打倒军阀”、“取消苛捐杂税”等口号，挤得城里大街小巷水泄不通，其中起决定作用的力量是张耀南率领的东南乡（三、六区岗山、万洼一带）2000多人的农民队伍。张耀南不仅负责这一部分农民队伍，还与其他各部分农民队伍联络协调，成为全县农民队伍实际的组织者和领导者。他们的目标是冲向县政府。张宗昌委派的原公安局长、代理县长边兰舫，吓得龟缩到一边，藏起来了。愤怒的农民到处搜索，终于抓住了他。举行万人农民大会，张耀南讲话，宣布边兰舫罪状，枪毙了边兰舫。同时向农民宣布取消“牛头捐”、“花果税”等多种苛捐杂税，广大农民为斗争的胜利兴奋异常。随即通过选举推选张耀南为县农民协会筹备委员会主任，紧接着又选举张耀南为农民协会主任。正式成立了长清县农民协会。农民协会会员兴高采烈地返回各自的家，议论着枪毙边兰航、取消牛头捐、花果税的胜利，个个都说痛快。连我这个当时只有10岁的孩子，看到他们那股子兴奋劲头，也深受感染，跟着他们喊“胜利了，胜利了”。张耀南作为农协主任，没有回家，继续奔走于县境各处，号召农民坚持斗争，争取更大的胜利成果。
在广大农民欢庆胜利的时候，国民党紧锣密鼓地篡夺农民斗争果实，建立国民党的统治。成立了县党部，改组了县政府，把农民协会也纳入它的控制之下。并登记张耀南为国民党预备党员，给月薪40元大洋，各乡区农协代表均登记造册报县备案。张耀南不为其所动，更不为其所用，以不顾一切的精神为实现农民的要求继续到各处宣传动员农民群众。指望国民党会履行诺言，满足农民群众的要求。回到县城，找县党部，找县长，他们互相推诿应付，多找他们几次便不予理睬，把已经取消了的牛头捐、花果税又压在农民头上。张耀南觉得对群众无法交代，对国民党官僚又无法说话，气愤地说：“打倒旧劣绅，换了新劣绅。”“国民党不仅不能办好事，干起坏事来胆子更大，脸皮更厚”等等。这一下可触怒了国民党，他们放出风声，说山东省政府（设在泰安，主席孙良诚）认为长清县农民协会做得过火了，要镇压一下，要以共产党嫌疑捉拿张耀南。朋友们劝张耀南说：这样解决不了问题，反而可能发生危险。张耀南因不能为群众办事，愤怒之下，不辞而别，和国民党断绝了关系。他回到家乡之后和三弟种地卖菜，农民协会随之解体，长清县广大农民轰轰烈烈的斗争，成为历史的光荣一页。
张耀南领导长清县农民协会的斗争，表面看是失败了，我却认为它是成功的，其功绩是不可磨灭的。
张耀南不甘与国民党新官僚为伍，放弃了农民协会，虽然憧憬世界大同，但那时在长清县还没有共产党的组织活动，他凭着自己的理想，寻找救国富民的道路。但是，长清县的农民显示了强大的力量，农民协会的活动，产生了深远广泛的影响。张耀南这个少为人知的乡村教师，随着农民运动的开展而为全县各阶层人民群众所熟知，成为受尊敬的具有广泛影响的人物。张耀南在全县人民中的影响在他十几年教学生涯中，在抗日战争中愈加发挥着强大的作用。
“九•一八”事变后，国民党坚持“先安内后攘外？的反动误国害民政策。国民党在长清县的实力是不小的，它不仅控制着统治人民镇压人民的机器，还有个名声显赫、被长清县的富豪绅士引以为荣的李仙洲。张耀南对他们不屑一顾，公开抨击国民党腐败无能，以致成为团结群众抗日救国，与国民党相抗衡的一方旗帜，就是因为有经受过1928年农民运动锻炼的广大群众，和以后十多年中张耀南在群众中的威望不断上升所致。抗日战争爆发，共产党人在长清树起抗战救国大旗，张耀南的学生踊跃参加，四方农民积极支援，掀起了抗日斗争的高潮，创造了山东地区最早的敌后抗日根据地之一——大峰山抗日根据地，组建了一批又一批抗日武装，补充了八路军主力，坚持了根据地的斗争。长清县的子弟南征北战，遍布全国，为革命战争和社会主义建设作出了巨大贡献。如果说，1928年的农民运动为抗日战争准备下了雄厚的群众基础，张耀南十几年教学为革命斗争准备下了大批骨干，是丝毫不过分的。
