父教育，母实业
张謇有句流传至今的名言，“父教育而母实业”，出自他1907年在《通州中学附国文专修科述义并简章》中的一段阐释：
国所与立，以民为天；民之生存，天于衣食；衣食之原，父教育而母实业。
张謇办教育、兴实业，出发点都是为国为民，他把实业与教育两者的关系比喻为一个家庭的父母双亲，相互补充，相辅相成，至亲至密，缺一不可。他将这个理念化为实践，成功开创了“以实业辅助教育，以教育改良实业”的模式。
民国初年通州师范学校全景
20世纪伊始，国内倡言兴学者提出，办教育必须首先创办大学堂。张謇则认为，要提高整个民族的文化素质，办新式教育必须以小学为根基，而要办小学，必须通过创办师范学校来培养师资。因此，张謇明确提出了“兴学之本，惟有师范”的主张。
光绪二十八年（1902）春，张謇应刘坤一的邀请，赴江宁与友人罗振玉讨论兴学的次序，达成了从师范学校办起的共识。但是，一些陈腐官僚对此横加非议，刘坤一也举棋不定。失望之下，张謇决定回通州自办师范学校。
张謇一身青衣小帽，在南通城内外到处寻找合适的校址，最后选中了南门外已经荒废的千佛寺。这个大寺院上一年发生了一次火灾，正殿被毁，留下了几十间年久失修的房屋。濠河三面环绕，周围空旷，是个比较理想的办学场所，几棵百年银杏树也会给未来的校园增色。
政府没有一丝一毫的投入，张謇就拿出自己在大生纱厂六年未支的工资和分红，加上其他亲友资助，共筹集9.3万元筹办通州师范学校。张謇自己动手测量、设计、绘图，在他的筹划下，大雄宝殿改为礼堂，文昌阁变成教员室。经过七个月的修建改造，一座可容纳300多名学生学习生活的新式校园在濠河畔展露风姿。
开办师范之初，张謇就自豪地宣布：“夫中国之师范学校，自光绪二十八年始；民间之自立师范学校，自通州始。”
光绪二十九年四月初一（1903年4月27日），近代中国的第一所师范学校——通州师范学校正式举行开学典礼，它成为我国近代师范教育的滥觞。
开学典礼的前一晚，张謇拿着锤子给学校各个房间钉名牌，一直忙到后半夜。穿着翰林院修撰冠服出现在典礼上的他，因为当天嗓子不好，演讲词改为书面张贴，“坚苦自立，忠实不欺”的通师校训，就出自其中。
张謇派他的得意门生江谦主管学校事务。最初聘请的一批教员中，有后来成为国学大师的王国维，更引人注目的是有一批日籍教师。
通州师范学校起点很高，其设施的建设已远远超出一般中等师范学校的规模。开办学校的经费全靠张謇筹集，一方面，他从大生纱厂的利润中拨出一部分来办学，说服股东形成规定，每年从大生纱厂利润中抽出十四分之一用于师范教育；另一方面，张謇每年都从自己的收入中拿出大部分贴补学校。他说过：“家可毁，师范不可毁。”
通州师范学校校门
张謇题写的通州师范学校校训
1905年，张謇又创办了我国最早的私立女子师范学校——通州女子师范学校，这在当时是开风气的新事。通州这两所师范学校的建立，在中国教育史上具有里程碑意义。他的办学成就也终于获得官方及社会的认可，这年八月，他被任命为江苏省教育会会长。1911年清王朝覆亡前夕，张謇还曾被任命为中央教育会会长。
除了家乡南通外，张謇还在东台办了师范学校，倡议和资助过扬州两淮师范、龙门师范、南京高等师范等多所学校，为师范教育的推广做出了重要贡献。
有了师范作基础，张謇开始实施在南通建设600所初等小学的宏伟计划。从1904年在自己的家乡创办常乐第一初等小学开始，到1926年筹办最后一所小学扶海小学止，他创办和推动创办的中小学有近350所，南通的基础教育得以快速发展。据统计，1916年江苏省入学儿童占学龄儿童的13.36%，这在当时的中国已经算不错了；而从1903年至1920年，南通地区入学儿童占学龄儿童的32%，远远超出了江苏的平均水平，并领跑全国。时至今日，南通的基础教育享誉国内，有“全国教育看江苏，江苏教育看南通”之说，这样的成果与张謇时代就扎下良好根基、薪火相传百年不无关系。
张謇所作通州师范学校校歌
小学教育的日益普及，为中学教育提供了生源。在张謇等人创办的中学中，要数1906年在通州办的通海五属公立中学最为有名。“五属”是指通州、海门、崇明、如皋和泰兴五个县。这所中学就是江苏省南通中学的前身。
张謇按照当年设计的办学线路图，开始了筹办大专院校的进程。1913年，通州师范学校的农科升级为南通农校。同一年，张謇在大生纱厂内附设的纺织染传习所改为南通纺织专门学校，按照美国费城纺校的设置办学，发展成为“中国纺织工程师的摇篮”。1912年，张謇、张詧合资建立了南通医科专门学校，1926年改称南通医科大学。
在我国高等教育的办学历史上，张謇具有十分显赫的地位。1903年，张謇应张之洞之邀筹办三江师范，后改名南京高等师范学校，也就是现在的南京大学、东南大学、南京师范大学、南京农业大学等诸多高校的前身。1915年，鉴于长江、淮河经常遭受水灾，为培养水利人才，张謇在南京创办了我国第一所水利高等学校——河海工程专门大学，就是现在的河海大学。
1912年，张謇在上海创办了江苏省水产学校，也就是现在的上海海洋大学。此前张謇在上海创办了吴淞商船专科学校，现为上海海事大学。张謇还积极筹款支持马相伯创办震旦学院，并任学校董事，震旦学院就是今天的复旦大学。
张謇是从科举之路一步步走出来的，但他以亲身经历突破了“读书、科举、做官”的传统教育窠臼，开辟出“实业与教育相迭为用”的新型教育体系。他的教育思想和办学业绩获得了中外学界的高度评价。著名政治家、思想家梁启超说：“南通教育会和各团体是我国教育界中之先进者，他们价值之高、影响之大，国人共知。”1920年6月，美国著名哲学家、教育家杜威考察南通教育后，在演说中给予了极高的评价。