心系天下，灵伴五山
63岁的张謇退出了政治舞台，他终于有足够的时间和精力用在家乡南通的地方自治建设上了。当时第一次世界大战激战正紧，趁列强无暇东顾之际，大生企业系统迅速扩大，获得了空前的发展，于1920年前后进入了鼎盛时期。
张謇围绕纺织工业这个中心，相应扩充其他产业，在原来通海实业公司10多个企业单位的基础上，着重兴办金融业、交通运输业和服务业。1919年淮海银行正式开业，行长为张孝若。大达轮船公司也发展迅速，还合资兴办了中比航业公司。创办了专营特种出口贸易的南通绣品公司，并在美国纽约设立分公司。
晚年张謇
张謇一直期望在上海建立一个类似“经济特区”的商埠，通过中国人自己的努力来招商引资，与上海租界一较长短。1921年，张謇受命出任上海吴淞商埠督办，他希望通过这一商埠的开辟，使之“与世界名埠之先进者争辉誉于地上”。为此，张謇提出了宏大而又严密的计划，以这个商埠“扼淞口之咽喉，出入商业操吾华人之手，成为东方绝大市场，挽回主权，在此一举”。可惜张謇的美好设想没有获得政府的实质性支持，加上江浙军阀的争战和地方势力的阻挠，吴淞商埠的开发最终难以落实。
张謇虽然退出了政坛，并且将主要精力投入地方自治的经营，但他仍然时刻关注着国内外时局的变化。1918年年底，鉴于巴黎和会即将召开，张謇为使我国能够摆脱不平等条约的束缚而获得关税自主，致电政府及与会代表，希望全力争取，同时发起成立了全国主张国际税法平等会，并被公推为会长。1919年年初，巴黎和会期间，张謇针对日本帝国主义的趁机侵略及北洋政府的对外妥协，频频通电，希望政府速令与会代表，拒绝在丧权辱国的合约上签字。张謇在通电反对皖系政府的亲日卖国外交时，措辞很激烈，说他们“悬‘亡国奴隶’四字为帜，无南北无智愚不肖皆耻之，行见举国沸腾也”。1921年，太平洋会议在美国召开，张謇辞谢了对他赴太平洋会议高等顾问的任命，他极力主张出席代表应“即将撤废二十一条协约及收回胶济路自办”。
1925年，反帝爱国的五卅运动爆发后，南通各界组成后援会发动募捐，张謇率先捐资，以示援助，并致函反对学生爱国运动的美国人据理力争。张謇尽管在商业上与各国有诸多合作，但为了捍卫国家权益，他面对列强毫不让步。
张謇与家人合影
在张謇的晚年，最令他痛心疾首的是国内无休止的军阀纷争和战乱。拥有庞大的经济实体和诸多地方自治成果的张謇，迫切需要一个相对稳定的社会环境。因此他在生命的最后十年中，煞费苦心地周旋于互相对立的各派军阀之间，耗费了不少精力。1922年直奉战争爆发，张謇在其前后多次致电，试图调停劝阻。1924年，江浙地区的战火又一次燃起，张謇忧心如焚，请求各方势力不要给人民带来灾难。1925年，孙传芳就任五省联军总司令，迅速将势力扩张到江苏各地。张謇不得不加强与孙传芳的联络，祝贺“大捷”。1925年年底，孙传芳特地与段祺瑞的首席幕僚徐树铮一起乘专轮到南通拜访张謇，张謇热情接待，当天南通报纸全部套红，更俗剧场安排了特别戏目。据说，孙传芳等军阀准备邀请张謇出山，但年逾古稀的啬翁显然不会重返政坛。
在张謇最后一批诗作中，有一首长诗是他彼时心境的真实写照，其结尾是：
幸哉一隅地，假息得苟全。太平在何时？今年待明年。呜呼，覆巢之下无完卵，野老洒泪江风前。
对动荡政局下国内各行业面临的艰难，在需要自己提供援助时，张謇义无反顾。他1916年任中国银行股东联合会会长，1922年任交通银行总理等，均是应大众推举而受命于危难之时。他还在许多社会团体担任职务，只要是有益于国家富强昌盛的事情，他都乐意参与，并且既然列名，就必须尽职。作为国内早期的科学团体中国科学社的名誉社员，张謇除了主动捐款外，还为社址及实验室用房等问题再三与当局商请，最终得以解决。1922年，张謇要求中国科学社来南通召开第七届年会，成为当时的一件盛事。出席这次年会的有杨杏佛、马相伯、梁启超、丁文江、竺可桢、陶行知等人，张謇被推选为中国矿学会会长等职。这一年，在北京、上海报纸举办的成功人物民意测验中，读者投票选举“最景仰之人物”，张謇得票数最高，其声望到达了巅峰。
张謇创办的大生集团出现前所未有的危机，就是在1922年，这一年正是他迎来70寿辰之时。前一年，张謇就开始筹备来年举办南通地方自治第25年报告会，同时为自己庆寿。他准备届时举办一个国内外各界参加的大型展览，来进一步扩大南通的影响。可就在一切“规划略备”之时，一场突如其来的台风暴雨袭来，外江内河同时泛滥成灾，使得张謇苦心经营的农垦、水利等事业遭受重大损毁。不过张謇以一向不屈服的精神，决定将报告会推迟到1927年举行，用来庆祝南通地方自治30周年。不过他没有料到的是，不仅自己没有等到那一天，大生集团也迅速由盛而衰，遭遇到比自然灾害更严重的冲击。
1922年，一个惊人的消息突然传出，大生企业系统的两根台柱——大生一厂和二厂都出现严重亏损。一厂结亏为39万余两白银，二厂结亏为31万余两白银。一厂负债总额高达1200万多两白银，二厂负债总额也有350多万两白银。造成危机的原因是多方面的：第一次世界大战结束后，帝国主义再次加强了对华的经济侵略，先天不足的中国民族工业很难抵御。加上国内军阀连年混战，战火蔓延，各地市场遭到破坏。除了外界因素使大生企业不可避免地陷入困境外，其企业运作本身也存在决策、管理等方面的缺陷。值得关注的是，大生两厂的“借入款”，主要不是用于纱厂本身的生产经营活动，绝大部分是作为支付盐垦系统拖欠和地方事业垫款之用。张謇苦心支撑的地方事业，需要大笔非营利性的开支，这些也成了大生集团巨额负债的一部分。可以说，是张謇在经营地方的公益和慈善事业上不断增加的投资，拖累了原本尚可维持的纺织业母体。
张謇在濠阳小筑内留影
面对困境，大生集团四处求援，以求渡过难关。1922年8月，危机初现时，张謇就派人向日本著名资本家涩泽荣一借贷巨款。日方前来调查和洽谈了两年之久，贷款一事还是未能落实。张謇转而将希望寄托在美国人身上，派儿子张孝若赴美奔走，庞大的贷款计划也最终功亏一篑。1925年，苦苦支撑的大生集团濒临破产，只好向雄心勃勃的江浙财团提出清资偿债。这年7月，由上海方面的四家银行和两家钱庄组成债权人团，全面接管了大生各厂。企业的经营实权控制在江浙财团所控制的代理人手中，张謇成了名义上的董事长。大生的败局，使张謇成了胡适后来所评价的“很伟大的失败的英雄”，但是，“他独立开辟了无数新路，做了三十年的开路先锋，养活了几百万人，造福于一方，而影响及于全国。终于因为他开辟的路子太多，担负的事业过于伟大，他不能不抱着许多未完的志愿而死”。
张謇墓园内，其门人所铸铜像
张謇说过：“一个人一生要定三个时期，三十岁以前是读书时期，三十岁到六七十岁是做事时期，七十岁以后又是读书时期。”为此，他晚年在南郊五山一带营造了一些别墅，如林溪精舍、西山村庐、东奥山庄，用来作为老而读书的地方。
不过，即使到了70岁以后，张謇还是没有停下奔波的脚步，寄情于山水的闲暇实在太少。1926年夏，张謇的身体已经大不如前。剑山雷神祠修建落成，张謇题了一副对联于楹柱：
百里蒙休，山川大神止于此；
万方多难，云雷君子意如何？
这副对联是他少年时代与好友范当世共同创作的，透露出对世事的隐忧，恰恰是张謇生于忧患、死于忧患的最好写照。
74岁的张謇，仍然在为家乡的事业奔忙。从张謇日记里可以看到，他在人生的最后几个月中，工作仍然排得满满的，包括购沙田作为男女师范基产，参加女子师范学校20周年纪念会，发表演说，视察南通保坍工程，等等。
张謇牵挂的最后一件事，就是长江的保坍工程。他一生对于我国水利事业的发展呕心沥血，致力于江河水患治理30年，先后担任过全国水利局总裁、导淮督办、运河督办等职。对于长江的治理，张謇早在1911年就发起成立了“南通保坍会”，负责保护南通江岸。荷兰水利工程师特莱克1916年受邀前来主持南通沿江保坍工程和沿海垦区水利建设，最终病逝于工作岗位。
1926年8月1日，张謇感到遍体发烧，但第二天清早他还是冒着酷暑，偕同工程师前往现场察看江堤，规划保坍工程。7日，病势渐重，才开始请医生诊治。21日以后，病情更加危急。
8月24日中午，这位为中国近代民族工业和教育事业奋斗了一生的老人，永远闭上了双眼。张謇临终之际没有任何言语，事先也没有留下遗嘱，但其鞠躬尽瘁的生命历程，应验了他曾说过的“予为事业生，当为事业死”的豪言。
张謇逝世的消息传出后，举国悲哀，各处的挽唁函电如雪片而至。许多地方不约而同地举办追悼活动。11月1日，南通各界举办了庄严隆重的出殡仪式。
张謇墓园
张謇的灵柩安葬于南郊墓园，此地是张謇生前选定的。墓上不铭不志，仅在石阙上题刻“南通张先生之墓阙”八字。墓门上的联语是张謇自拟的：
即此粗完一生事，
会须身伴五山灵。