冯玉祥向蒋介石提出，在淞沪一线指挥作战的中国军队的将领太年轻，镇不住场子，要派一位年高德劭的老资历将领前去坐镇方可稳住局势。
蒋介石一斟酌，具备这种资历的将领倒是有几个，程潜正担任总参谋长，唐生智任训练总监，坐镇南京，李宗仁任预备军司令，已内定担任第5战区司令长官，马上要奔赴徐州战场。既然冯玉祥提出这个问题，正好他在军事委员会没具体事做。于是蒋介石任命冯玉祥为第3战区司令长官。
冯玉祥接到任命后即奔赴前线视察，先后在昆山、苏州挨了日本空军两次轰炸。在丧失制空权的情况下，从上海到南京这一条线上，只要公路上出现汽车，就会遭到日军飞机轰炸，宋美龄就曾被炸得人事不省。
有一次冯玉祥结束视察回无锡，得知日军飞机轰炸了距他指挥部不到1千米的地方后，这位将军背后直冒冷汗。从那以后冯玉祥就不到前线视察，也不到司令部办公，按他自己的话来说，每天就是骑车爬山，写诗骂日本人。
副总参谋长的白崇禧多次到淞沪前线视察，都没看见第3战区司令长官冯玉祥的身影。白崇禧向第3战区副司令长官顾祝同询问，顾祝同说：“由于日机空袭猛烈，白天的时候，冯长官既不来前线，也不来司令部，而是呆在宜兴的张公洞里。”
后来冯玉祥说淞沪前线的部队都是国民政府的精锐部队，即使他要指挥也不一定指挥的动。白崇禧觉得像冯玉祥这样，继续当第3战区司令长官真的不合适，向蒋介石提出撤换冯玉祥。这让蒋介石犯了愁，临阵换将，别人又要说闲话了，什么排除异己等等。再说，把他撤换后安排到那里去呢？如果让他坐冷板凳，别人又会说一蒋某人不能容人了。何应钦提议把冯派到华北，当时已决定在华北成立第6战区，负责防守黄河以北地区。在这里与日军作战的主力是原西北军，如韩复榘、宋哲元、刘汝明、孙连仲、冯治安等人。老长官指挥老部下，冯玉祥定会发挥出作用，省得他总喊淞沪战场的嫡系部队不听招呼。蒋介石遂改任冯玉祥为第6战区司令长官。
冯玉祥刚上任，山东省主席韩复榘就表示愿听从第5战区司令长官李宗仁的指挥，不愿在冯玉祥的麾下听用。华北的其他原西北军各部也纷纷表示不愿听冯玉祥的指挥。
冯玉祥害怕飞机。他到第6战区后就不断转移长官部，每天都换，甚至一天要换2至3次。每次更换长官部所在地，整个战区的通信就要受到影响。很多部队的长官要联系到冯玉祥很困难，军情无法及时上传下达。
冯玉祥的“家长制”作风严重。中原大战后西北军分崩离析，29军参谋长萧振瀛把西北军旧将拉在一起，这才有了日后的29军。第6战区内29军是主力，如果把29军的大权交给冯玉祥，这是包括萧振瀛在内的29军将领们所不愿意的。萧振瀛非常了解冯玉祥的为人，他怕冯玉祥把29军抓到手后，手里有了本钱，再像中原大战那样搞武装割据。萧振瀛于是在西北军将领中开始串联，反对冯玉祥。冯玉祥急了，派人刺杀萧振瀛。有一天萧振瀛乘火车准备到冯治安的驻地去，走到泊头车站时萧振瀛临时决定改乘汽车。不久，萧振瀛的火车遭便衣枪击，车上一名兵及随从参谋霍占一受伤。萧振瀛怒了，事情闹大，蒋介石只好建议冯玉祥主动“辞职”。自此，冯玉祥淡出军界。
1943年孔祥熙办生日宴，冯玉祥和萧振瀛获邀参加。冯玉祥要与萧振瀛握手，遭到萧振瀛的拒绝，众人深感吃惊。有人这才把当年的事情说了出来。