残余，保存爱国志士，更能在华北起稳定作用，请蒋支持”。
蒋介石见调不动二十九军，又觉得肖振瀛说的颇有道理，也就不再调二十九军南下了。
1931年7月，“反戈将军”石友三又叛蒋（介石）反张（学良），举兵进攻张学良，并联络二十九军支持他，派人游说宋哲元、张自忠，以“西北同源 ”动之。但宋哲元、张自忠对石友三之反复无常十分不齿，断然拒绝了石友三的要求，使其陷于孤立。在东北军于学忠部和晋军商震部的夹击下，石友三之叛乱被迅速平息了。
此一事件，取得了张学良的感激和信任。作为报偿，张学良从自己的地盘划出元氏、内丘、赞皇、高邑四县作为二十九军防区。二十九军移驻上述四县，局促于山西的压力减小了。
1932年，经张学良推荐，宋哲元被南京国民政府任命为察哈尔省主席。二十九军才算名正言顺有了自己的正式防区，才算站稳了脚跟。
二十九军改编刚刚就绪，张自忠就率领部队投入了艰苦紧张的练兵工作。虽然粮饷不足，处境困难，但是张自忠仍然坚持而不气馁。
中原大战的失败，对张自忠来说，可以说是从中得到不少教训。
作为已是西北军的一员高级将领，他对冯玉祥是忠心耿耿的。西北军失败，西北军大批将领投奔蒋介石，其中包括职务、地位都比他高得多的，如张之江、李鸣钟、刘郁芬等。他却没有接受蒋介石的委任，率领队伍渡过黄河北上便是证明。他也为冯玉祥下野难过。但是当他在黄河渡口，目击部队和西北军眷属们渡河时的感触，以及在后来的日子里，多次在脑海中思索着一个问题：以西北军的训练有素，艰苦善战，有40万之众，却为什么最后会一败涂地了呢？
当然失败的原因很多。反蒋联军内部不齐心，尤其是作为陆海空军总司令的阎锡山为保存自己，对西北军采取了“釜底抽薪”；李宗仁的半途而退；张学良的从中立到拥蒋的介入……这些都是造成失败的重要原因。当然，西北军内部也存在一些致命的问题，开始石友三、韩复榘、李虎臣、马鸿逵的叛投蒋介石，使西北军损失十万之众，随后尚未开战，李鸣钟、张之江两位被誉为西北军“五虎上将”中的两员，又投向了蒋介石。尚未出师，就已损兵折将，这对军心稳定起了多么不利的影响。冯玉祥被阎锡山软禁在山西，致西北军群龙无首，孙良诚的飞扬跋扈与宋哲元的闹不和，造成第一次反蒋失败，这沉重打击了西北军反蒋必胜信心。
西北军当时的根基已在陕甘，却离开自己的根基去河南等地作战，一旦粮饷、弹药为阎锡山所“卡”，则必然造成不战而自乱。
这些也是这场战争失败的重要因素。但最为关键的是这场战争究竟为什么而打，为谁而打？它不是辛亥革命，也不是“北京革命”。说穿了，这是作为掌握着枪杆子和占据着地盘的蒋、冯、阎、李几个派系，为争夺自己派系更大的权益而发动的一场战争，一场新军阀混战。它和辛亥革命后直系、皖系、奉系以及国内各地的大大小小的军阀之间的互相争斗，根本没有区别。
第三部分：待从头收拾旧山河待从头收拾旧山河（5）
军阀战争，要想得到民众的支持和拥护是不可能的。但中原大战的结局，使张自忠意识到，这也许是一件好事，也许意味着今后军阀战争将不会重演。作为一个爱国军人，应该团结起来，一致枪口对外。抵御外侮，保卫祖国才是军人的天职啊！
当然，他也明白，二十九军因为不是蒋介石的嫡系，也不是张学良的嫡系，必然会在一种艰难的夹缝中生存，自己没有实力是不行的。他正是在为了祖国、为了生存这两种心情之下，率领部队，咬牙苦撑，埋头练兵。
1931年夏，三十八师移驻太行山区的阳泉、平定、昔阳和冀西的井陉一带。这年，发生了震惊中外的“九一八”事变。张自忠对于日本军阀的疯狂侵略和国民党政府的不抵抗政策甚为愤慨。9月20日，他与宋哲元、庞炳勋、吕秀文、刘汝明、冯治安、沈克、马法五等将领联名通电全国，请缨抗战，呼吁全国四万万同胞“宁为战死鬼，不作亡国奴，奋斗牺牲，誓雪国耻”。但是，由于南京政府的不抵抗政策，“九一八”事变后仅四个多月，东三省全部沦陷在日军铁蹄之下。
“九一八”事变使张自忠认识到，只有反对内战，枪口一致对外，才能保卫国家的独立、人民的安全。暂时不能上前线杀敌，张自忠转而发愤练兵。在部队训练上他更加重视爱国主义的教育。每天朝会上，他都要对士兵进行“国耻”教育：
问：东北是哪个国家的土地？
答：是我们中国的！
问：东三省被日本占去了，你们痛恨吗？
答：十分痛恨！
问：我们的国家快要亡了，你们还不警醒吗？你们应怎么办呢？
答：我们早就警醒了。我们一定要团结一致，共同奋斗！
在三十八师的《吃饭歌》中就有：“……日本军阀，国民之敌；救国救民，我辈天职。”还有在9月18日这天，全师官兵要举行“国耻纪念日”，进行各种国耻纪念活动，其中一项是买来几头猪，贴上“日本帝国主义”字样，每连派出一名士兵，端起刺刀向肥猪猛刺过去，哪个连队刺死了，哪个连队抬走吃肉。
二十九军改编以后，已成为统一的国民军，但因非蒋介石之嫡系，因而仍然受到猜忌，有的人还对二十九军特别是张自忠的三十八师，采取挑拨离间的手段。
张自忠有一次收到两封信。他看后，打电话把二二六团团长佟泽光从昔阳叫到平定师部来。
佟泽光来了以后问他道：“师长，你叫我来有什么事？”
张自忠道：“我这里有两封信，你先看了再说。”说着拿出两封信来递给佟泽光。
这两封信都是写给佟泽光的，一封是刘峙来的，一封是程潜来的。均以复信口气，似乎佟泽光给他们曾通过信，大意是：大函已悉，已转上峰，谅无问题。希待机而动……
佟泽光看后，气得把信扔在桌子上说：“我和他们毫无关系，既不认识，也没去过信。这两封信纯系造谣，挑拨离间！”
张自忠道：“你也别激动。你的认识和我一样。我们不会中别人挑拨离间之计，也不能中别人挑拨之计。我对你是相信不疑的。如果对你有怀疑，我不会把你从昔阳叫来，把信给你看了。”
佟泽光感激地道：“谢谢师长对我的信任。”
张自忠道：“早在曲沃的时候，就接到类似的一封信，知道是挑拨，不值一笑，所以没有叫你看，我把它烧了。现在又来这两封信，明知道是造谣离间，我想不能再让你不知道，如果不坦率和你说明，倘若传到你的耳中，反而增加误会，所以请你来当面说明。你需要安心工作，用不着去想他。我再说一遍，我完全信任你。”
这使得佟泽光十分感动。后来佟在回忆录中写道：“师长这一番话，坦率真诚，使我铭感肺腑。”
张自忠苦苦练兵，要求十分严格。他还要求军官与士兵同甘共苦，士兵们穿什么，军官也穿什么；士兵们吃什么，军官也吃什么。军官一律不准特殊化。他要把他的三十八师练成一支铁军，那才能在战场上和日本侵略者一决雌雄，以雪国耻。
第三部分：待从头收拾旧山河不叫日寇度长城（1）
“九一八”事变以后，由于南京政府的不抵抗政策，日本侵略军很快占领了东三省，并于1932年拼凑成立伪“满洲国”。日本侵略野心，是要吞并全中国，所以1933年又把侵略目标，瞄准了与东三省毗邻的热河省。
1933年元旦之夜，日本突然出兵向天下第一关山海关攻击。东北军守军何柱国败退，山海关失陷。日本侵略者取得了进攻热河的有利势态。
国民政府一面发表《山海关事件宣言》，请求国联制裁日本，一面制定了“以确保冀热并巩固平津为目的”的作战计划，将北方各军及中央军北上增援部队编组为八个军团：
第一军团由于学忠第五十一军及庞炳勋第四十军组成。于学忠任总指挥，总兵力三四万人，集结于大沽、芦台，拟用于天津、大沽口、芦台一线；
第二军团由商震第三十二军和王以哲第五十七军组成，商震任总指挥，兵力4．3万人，集结于滦东、滦西，拟用于滦东及滦河防御；
第三军团由二十九军组成，宋哲元任总指挥，集结于三河、玉田、蓟县，拟用于凌南、义院口之线；
第四军团由五十三军组成，万福麟任总指挥，兵力约4。3万人；
第五军团由五十五军组成，汤玉麟任总指挥，兵力约3万人，拟用于建平、赤峰之线；
第六军团由孙殿英第四十一军、冯占海第六十三军、张作相第六十五军组成，张作相任总指挥；
第七军团由傅作义第五十九军、李服膺第六十一军组成，傅作义任总指挥，兵力3万人；
第八军团由何柱国第六十七军、徐庭瑶第十七军和肖之楚第二十六军组成，兵力约6万人，杨杰任总指挥（实则由徐庭瑶代）。
以上各部，统归军事委员会北平分会委员长张学良调度指挥。
1933年2月21日，日本关东军以第六、第八师团、独立混成第十四、第三十三旅团和骑兵第四旅团等部为主力，并纠集伪满军张海鹏等部约十万人，在关东军司令官藤信义指挥下，分兵三路进攻热河，热河省主席兼第五军团总指挥汤玉麟部连同义勇军不下十万人或逃或降，一触即溃，汤玉麟本人以200辆汽车装运私产逃至天津。
3月4日，日军先头部队仅128人不费一枪一弹，耀武扬威地占领了热河省会承德。热河在短短十余天里竟被日军占领。举国上下为之震惊与愤慨。
在舆论的压力下，张学良被迫辞职，遗职由何应钦代理。
这个时候，二十九军已扩编为三个师。军长宋哲元，副军长秦德纯，参谋长张维藩，总参议肖振瀛，第三十七师师长冯治安，辖第一○九旅（旅长赵登禹），第一一○旅（旅长王治邦）；第三十八师师长张自忠，辖第一一二旅（旅长黄维纲），第一一三旅（旅长佟泽光）；暂编第二师师长刘汝明，辖第一旅（旅长李金田），另还有一个特务团，全军约3。4万人。但装备还是很差，全军只有野炮、山炮10余门，重机枪不过百挺，轻机枪每连只两挺，步枪多为汉阳造、三八式，还有一些毛瑟枪和土枪，许多枪都没有刺刀。按老传统，每一士兵有一把大刀。
1月10日，二十九军各部奉命开赴通州、三河、玉田一带集结待命，三十八师除第二二三团一、二营随同宋哲元留在张家口外，其余部队全部开拔。
这是张自忠第一次同日军交锋。他在阳泉召集三十八师营以上军官开会，作战前动员。他慷慨激昂地说：“日本人并没有三头六臂，只要我们全国军民齐心协力，与日寇拼命，就能将日寇打出中国去。国家�