29军走后，张自忠孤处危城。此刻，误解谣诼纷起，有人说是张自忠“逼宫”赶走了宋哲元，在沦陷区与日本人合作图谋华北；也有人说他与日本人早就订有“密约”，日本人不但赠其巨款，还送给他一个温柔的日本美女。南京街头甚至出现了攻击、谩骂张自忠的标语，某家报纸则取其名讥讽他“自以为忠”……
日本人的攻击诽谤他可以毫不在意，但国人的攻击指责他怎能无动于衷，更何况他还是一个血性军人，但他自认问心无愧，上对得起国家民族，下对得起列祖列宗，他默默地忍辱含垢，相信总有一天，时间能向天下辩明一切。
在夹缝中生存确实够难的。日军进入平津后，大张旗鼓地与汉奸勾结成立伪政权，多次软硬兼施地要求张自忠提出通电反蒋、反共，都被他一一加以拒绝。事实上日本人并不相信他，急于让他通电，好断了他的后路，拴住他，同时派出不少汉奸和日本特务盯梢、跟踪，想把他完全控制在日本特务的掌握之中。而张自忠则拼命摆脱，拖延着日本人提出的各项要求。
另一方面，他加快了自己行动的步伐。见日本人对他派出的谈判代表一连数日置之不理后，他开始了秘密的活动。他一面秘密下令各地政府官员开仓放粮，帮助战乱中的百姓渡过饥荒；一面通过过去冀察政委会中的熟人和红十字会，秘密转移未撒出的部队、掩埋29军阵亡官兵、分散隐蔽伤员，并专门派人接济安置29军留平眷属……。
8月7日，见宋哲元交待的延缓日军1周的计划已经完成，自己再留北平已无意义，便宣布辞去一切代理职务，避进了一家德国医院。
一个月后，张自忠历经艰险，终于从天津登上了英国商船“海口”号，先烟台、后济南，最后转达南京。在济南，他给手下的李致远旅长修书一封，说道：
“忠奉命留平以后，未能与诸弟兄共同杀敌，致令诸弟兄独任其劳，深以为歉。而社会方面多有不谅之处。务望诸弟兄振奋精神，激发奋勇，誓扫敌氛，还我河山。非如此不能救国，不能自救，并不能见谅于国人。事实胜于雄辩，必死而后能生。诸弟兄素抱爱国热忱，值此呼吸存亡，谅必誓死雪耻。”
佯洋数百字，道出了张自忠对日军深恶痛绝、跃跃欲战之心。
张自忠的两位老长官冯玉祥、宋哲元得知他安然脱险的消息后，欣喜异常，派专人将他接到了南京。见到老部队的人，他竟激动地淌下了热泪。
他原以为雨过天晴，一切都将过去，但踏上京城的地界，他才发现一切都错了。
南京街头，攻击张自忠的标语随处可见，不时仍有报纸在攻击他滞留北平、与日本人勾勾搭搭，不明不白。听前来接的人说，军委会里不少军官主张对他实行军法会审，宋哲元虽百般努力，四方游说，但仍是群情汹汹，百啄难辩。联想到1936年他出访日本归来后国人痛骂他的情景，再想到29军杂牌军处处遭冷眼的境况，他的心情不禁有些灰暗，也许他此番归来再难返回原38师老部队了。
果然，他在北平、天津这一个多月的游离，使太多的人产生了怀疑。宋哲元四处奔走，几乎动用了一切关系，由冯玉祥、鹿钟麟、李宗仁等多人出面说情，蒋介石才同意对其免于军法审判，只给他撤职查办处分，以观日后表现。
张自忠替人受过，遭骂又丢官职。但他这时不想抱怨，也不想解释，他深信时间能荡去一切疑雾，真相总有一天会大白于天下。在这一点上，他较一般的军阀有更大的气度和更深的涵养。他的内心里只憋着一股劲，要用战场上的表现来洗刷自己的不白之冤。
不久，不知是蒋介石认识了张自忠的清白，或是用人之急，老蒋舍不得让这位1933年长城抗战中的虎将闲着，便任命他为国民党军政部中将部副。11月，在李宗仁、宋哲元的保举和原部队官兵的要求之下，张自忠终于又返回了自己的老部队59军（前38师扩编而成）任军长。
仍没有见谅于国人和舆论界的张自忠终于有了重返前线的机会。在59军驻地，他热泪盈眶地对手下众将说：“蒙各位成全，恩同再造，我张某有生之年，当以热血生命报国家、报知遇。”
张自忠说到做到。淮北克敌，张自忠首战立功；临沂苦战，张自忠不计前嫌，毅然解围庞炳勋部，重创板垣师团，不但令板垣震惊、令仇人庞炳勋叹眼，更为台儿庄大捷奠定了胜局，临沂一战，张自忠名杨天下，昔日的“汉奸”成了今日的英雄。国民政府军事委员会特发布命令，撤销对他“撒职查办”的处分，并将其升为第27军团司令。
但张自忠并未止步，而是不断身临前线，在战场上频繁建功。
徐州、武汉、襄东、枣宜，凡是战火最炽烈的地方，都留下了张自忠精干健硕的身影。凡是他参加的战斗，几乎都奏响了胜利的鼓乐声。两年中，他转战南北，屡胜劲敌，已在国人心目中奠定了民族英雄、抗日名将的地位，鄂北前线，张自忠更是威名远震，妇孺皆知。
宽宏大量的中国人，只要发现了他们心目中的英雄，是绝不吝惜感激和热情的，就像他们当初痛骂他为“汉奸”一样慷慨大方。全国各界为感激张自忠戍边之功，竟发起了一场献旗运动，数百面锦旗表达了他们对自己心目中英雄的无尚崇敬和殷殷重托。黄埔军校第14、15期60多名毕业生为能投奔到张自忠的麾下，放弃了任其他部队连长的职位，而甘愿到他手下任排长，一时曾轰动全国，传为美谈。
张自忠就这样不顾一切地拼杀在前，胜利在前，以自己的行动远远走在全国各路抗日大军的前列，直到1940年5月倒在两名日军士兵的刺刀下，完成了自己以身报国的宏愿。他是抗战中倒在前线战场上的第一位集团军司令。
张自忠的死曾轰动全国。灵柩从宜昌运往重庆，沿途成千上万的各界民众自动迎候奠祭，表示哀悼。蒋介石、冯玉祥等国民党军政要员数百人曾亲往江岸迎候。重庆和延安，都为张自忠举行了隆重