在这期间，于6月中旬，张勋电召冯德麟入京。冯德麟未加思考，以为事成之后，会当上奉天督军，就派先遣队200人急驰入京，自己则于20日率卫队30人赴京。到京后，立即会晤张勋，表示完全支持张勋的复辟行动，并命令他的28师火速进京“赞襄复辟，保卫皇室”。他急不可待地晋谒了溥仪，溥仪赏赐他“穿黄马褂，紫禁城内骑马，御前侍卫大臣头衔”。冯十分得意。
但这场丑剧，仅维持了12天。7月12日，辫子兵天坛之战，全军溃败。这场丑剧，就在全国的一片反对声中收场了。张勋逃进了荷兰大使馆。冯德麟事先感到不妙，于7月10日，率队200人，着便装乘火车回奉。路过天津时被扣，被押回北京。14日，段祺瑞进入北京。8月15日，宣布冯德麟“因背叛共和，罪迹昭彰，剥夺一切官职和勋位，并交付法院依法严惩”。段祺瑞本来对冯德麟就没有好感，这时怎能轻饶了他。冯德麟的第28师师长、陆军中将等一切官职和勋位都被剥夺，成了不折不扣的阶下囚。
对待张勋复辟，张作霖很是谨慎。对张作霖来说，无所谓共和与保皇，只看这件事情是否对己有利。他是个十足的机会主义者。他的政治嗅觉十分敏锐，很会观测风向。本来张勋和张作霖关系非同一般，是来寻求张作霖支持的，因为他们是儿女亲家。但张作霖没有轻举妄动，而是坐山观虎斗。段祺瑞在组织讨逆军之前，张作霖看到赞成复辟者极少时，就确定自己必须站在段祺瑞一边。他当机立断，马上发表宣言，反对复辟。在这个问题上，机敏的张作霖取得了主动。
冯德麟在北京被囚，急电张作霖求救。张作霖完全可以落井下石，起码不予过问，但张作霖没有这样做。他反而不念旧恶，积极营救。这是张作霖的非同寻常之处。张作霖之所以这样做，不仅是出于绿林义气，也是有意做给冯德麟的部下看的，以便争取冯的部下。
张作霖当即致电段祺瑞，请求释放冯。并且，又以27师、28师、29师各旅、团、营长的名义，电请段祺瑞释冯。还以辽西16县士绅的名义，向段祺瑞请愿，希望从宽处理冯。段祺瑞在探知张作霖的真意后，于10月15日就释放了冯德麟，判决“参与复辟证据不足，因吸食鸦片罪罚金八百元”。这是一个象征性的轻微处罚。此后，张作霖又电请段祺瑞发还冯德麟的勋章和勋位，段祺瑞照准。为笼络冯的部下，段祺瑞又授予冯德麟为总统府高等侍从武官。
段祺瑞半身像
事后不久，段祺瑞任命冯德麟为山陵守护大臣，冯便回到奉天。山陵是指包括长白山和清入关以前三代之陵。李太芬：《冯德麟与山陵守护大臣》，《辽宁文史资料》，第7辑，第73页，辽宁人民出版社1983年版。长白山是清朝的发祥地。三陵，一为永陵，在抚顺新宾，是顺治帝曾祖辈的墓地；二为福陵，在今沈阳之东25里，是清太祖努尔哈赤的墓地；三为昭陵，在今沈阳之北，是清太宗皇太极之墓地。
5．施软硬打拉德麟（3）
这个大臣的职位，冯德麟还比较满意。虽然这是一个有职无权的闲差，但因为毕竟是大臣，而且还管辖很多官地，不仅名声好听，还可以捞到许多钱。在全国一片声讨复辟祸首之时，张作霖竟然不避嫌猜，敢于为冯德麟请愿，冯德麟对此不能无动于衷。经此磨难，冯德麟再也不作他想，而是老实过他的晚年生活了。1926年8月11日，冯德麟病死。
冯德麟被捕后，张作霖就接收了28师，自兼师长。后把原28师的旅长汲金纯提升为师长。扫除了冯德麟这个障碍，张作霖便真正地掌握了奉天省的军政实权。在对冯德麟的问题上，张作霖的又打又拉的策略起了重要作用。
6．用亲家兼并江省
张作霖对只掌握奉天省的军政实权，仍不满足。他的政治野心很大。其近期目标是夺取东三省的统治大权，故首先把矛头对准了黑龙江省。当时的黑龙江将军是朱庆澜。朱庆澜，字子桥，浙江绍兴人。1875年生。曾任职奉天督练公所巡警总局，第17镇镇统。1912年，任黑龙江督署参谋长。1914年，加陆军上将衔。同年改署巡阅使并升任黑龙江将军，是黑龙江的最高统治者。朱庆澜当年在奉天时，很看不起张作霖，两人由此结怨。朱庆澜也不会听张作霖指挥，张作霖便想挤走他。
但袁世凯很信任朱庆澜，挤走朱也并非易事。此时驻黑龙江的是陆军第1师，师长是许兰洲。许兰洲，字芝田，河北南宫人。1872年生。湖南陆军学堂毕业。袁世凯在天津小站练兵时，因其会武术，曾任职袁世凯卫队，而受袁世凯信任。1908年，任黑龙江巡防营第2路统领。1914年，任黑龙江省陆军暂编第1师师长。
张作霖侦知许兰洲觊觎黑龙江督军的高位，便有意借许兰州挤走朱庆澜。并答应事成后，保举许兰洲担任此职。许兰洲为了达到这个目的，就有意制造事端，以便从中取利。1916年3月17日晚间，受许兰洲怂恿的江省省城齐齐哈尔的少数旗人到处散发传单，通知所有旗人到八旗工厂开会，讨论旗人生计问题。按规定，开会事先必须呈请警察局批准，而他们并没有请示。
警察看到满地传单，不明所以，警察局便派人到工厂周围警戒，以便了解情况再做处理。翌日清晨，旗人纷纷来到工厂门前，见到有警察戒备，以为警察干涉开会，便跑到许兰洲的师部躲藏起来。这就为许兰洲提供了反对朱庆澜的机会。
许兰洲一面假意出面调解，一面又鼓动旗人代表联名电告北京政府，攻击朱庆澜左右的八个人，揭发他们的种种罪行。这实质是在攻击朱庆澜。因齐齐哈尔的电报局被许兰洲军队控制，朱庆澜便派人到哈尔滨，电告袁世凯，称许兰洲阴谋挑动旗人闹事。“袁接电后，即电许兰洲不准乱来，言称如果朱庆澜发生意外，则以该师长是问。”赵兴德口述，沈一言整理：《张作霖吞并黑吉两省经过》，《辽宁文史资料精粹》，第1卷，第116页，辽宁人民出版社1999年版。
许兰洲不敢违命，但双方相持一周有余。袁世凯无法，便调朱庆澜入京，1917年北京政府任命其为广东省省长。其遗缺暂由许兰洲护理。但袁世凯深知许兰洲不是担任边疆大吏的材料，便于1916年6月调毕桂芳任黑龙江将军兼巡阅使，7月改称督军。毕桂芳，河北大兴人，1865年生。北京同文馆毕业，后赴俄国留学，曾任俄国公使馆随员，是个俄国通。曾任总统府高等外交顾问。派他到黑龙江省，目的很明确，就是为了处理和俄国的外交关系。
许兰洲目的没有达到，仍想让张作霖保举他。张作霖感到许兰洲并不可靠，便对他玩了两面手法，后来就弃许保鲍了。这个鲍，即是鲍贵卿。鲍贵卿，字霆九，奉天海城人。1914年，任陆军第3混成旅旅长。1915年，任陆军讲武堂堂长，后升任陆军中将。他是张作霖的儿女亲家。他们既是老乡，又是亲戚。于是，张作霖就保举了鲍贵卿。1917年7月，北京政府任命鲍贵卿为黑龙江督军，暂行兼署省长，加陆军上将衔。
为了保持江省的稳定，北京政府把许兰洲的第一师调到奉天省，放在张作霖的眼皮底下。就这样，张作霖终于控制了黑龙江省。
7．任嫡系吞并吉省
下一个目标便是吉林省。当时吉林督军是孟恩远。孟恩远，字曙春，天津人，1859年生。在天津小站入新建陆军。1907年任吉林巡防营翼长、记名提督，吉林督办剿防事宜。1912年，任陆军第23师师长。1914年，升任镇安左将军督理吉林军务。1916年7月，改任吉林督军。张勋复辟时，于1917年7月，任命其为吉林巡抚。可以说，他是个老吉林，在吉林经营有年，根深蒂固。他当然不是张作霖的嫡系，张作霖想把他换掉。
本来张作霖以为赶走孟恩远是件容易的事，但不承想没那么简单。张作霖略施小计，向北京政府密告孟恩远在张勋复辟时，曾接受巡抚任命，与复辟有染，担当巡抚不称职。1917年10月18日，北京政府便下令调吉林督军孟恩远为诚威将军，派田中玉为吉林督军。将军在当时是个有名无实的空头衔。
段祺瑞对张作霖没有好感，但也不得不利用他。既然你张作霖有密报，我就乘机派一个自己人来调换孟。但是孟恩远也有他的关系网。
任东三省巡阅使时的张作霖
孟的外甥高士傧是吉林督署的参谋长，又兼师长。女婿陆承武的父亲是直系幕后活动家陆建章。在这种情况下，孟恩远决定不交权。张作霖想武力解决。但在总统黎元洪联合直系军阀的干预下，张作霖没敢有所动作，此事也就暂时搁置了。
张作霖在1918年9月7日，经徐世昌总统任命为东三省巡阅使。在此之前，冯国璋当总统时，曾于1918年6月20日任命曹锟为川粤湘赣四省经略使，而且给曹锟特意铸造了一颗银质狮钮大印，重达两斤多，比特任官的印还要大很多。这是在暗示曹锟要高于所有的督军，将来很有可能当上副总统，冯国璋和段祺瑞以此来笼络曹锟。
徐世昌是1918年9月4日当上总统的，仅仅过了三天，就任命张作霖为东三省巡阅使。这显示了徐世昌和段祺瑞对张作霖的拉拢。从此，北方就有了两个比督军大的官了，他们之间也有互相牵制的作用。这是内阁总理段祺瑞为了实现他的“武力统一”中国政策的一个策略。
东三省巡阅使比省督军高一级，形同清朝的东三省总督，但比总督有更大的实权。这就使张作霖有权建议中央安排东三省的人选。1919年6月，张作霖认为驱逐孟恩远的时机已经成熟。于是，张作霖电请徐世昌将孟恩远他调，以黑龙江督军鲍贵卿继任。而黑龙江督军由其嫡系孙烈臣担任。
张作霖的电请，得到徐世昌的批准。1919年7月6日，北京政府调孟恩远为惠威将军。此时的孟恩远已是60岁的老人，而且在吉林搜刮多年，已脑满肠肥。得此消息，本想一走了之，回天津做寓公。但又不太甘心，尤其是他的部下不满。他的部下有两个人反对最烈。一个是参谋长兼师长的高士傧，一个是旅长高夙城。这二高怂恿孟恩远要和张作霖开仗，拒绝调走。孟恩远也就“一任彼等之拥戴，企图侥幸于万一”。
得到这个消息，张作霖立即派孙烈臣为吉林###军总司令，调兵向吉林进发。大兵压境，孟恩远知道自己不是张作霖的对手。他不顾二高的反对，密电张作霖同意交出吉林督军大权，但要保证他的生命财产安全。张作霖当即回电，只要交出吉林督军大权，保证你安全回到天津。8月5日，鲍贵卿和孟恩远同到吉林市，交接了督军大印。就这样，孟恩远携带大批财产回到了天津，做寓公去了。二高也不敢反抗，放弃了部队，身着便装绕道海参崴乘船潜回天津。赵兴德口述，沈一言整理：《张作霖吞并黑吉两省经过》，《辽宁文史资料精粹》，第1卷，第117页，辽宁人民出版社1999年版。
障碍扫除了。张作霖下令，将鲍贵卿调到吉林，任吉林督军。同时，孙烈臣调署黑龙江督军。8月，加陆军上将衔，兼署黑龙江省省长。孙烈臣一直是张作霖的部下，对张忠心耿耿，值得信任。因此，张作霖把黑龙江的军政大权交给了他。