自诩性如介石的蒋介石，随后当然把进攻的矛头，对准了冯玉祥。大举向山东、河南调兵，造成对冯系大兵压境之势。

而接收济南事件，则成了蒋冯矛盾爆发的导火线。蒋介石以武力把孙良诚挤出山东；冯玉祥看到蒋介石消灭西北军的主意已定，便采取防御策略。

命令山东、河南的守军西撤，以便集中兵力缩短战线，巩固西北。同时，冯系在南京供职的鹿仲鳞、熊斌也同时辞职，返回了西北。

冯玉祥在完成了一系列的军事调动之后，于五月中旬在华阴召开军事会议，决定武装反蒋。

五月十六日，西北军将领孙良诚等人发表反蒋通电，推举冯玉祥为护党救国军北路总司令。

而蒋介石针锋相对的调兵遣将，设作战总部于徐州，统领湖北和山东所部。随后用金钱，收买了冯系将领韩复渠和石友三倒戈，致使西北军受到很大削弱。

在政治上蒋挟国民党中央的名义，指责冯破坏革命”、“大逆不道”、“统一之梗”和“反叛中央”。

五月二十三日，国民党中央常委会决议革除冯的一切职务，并永远开除出党。

五月二十五日蒋致电冯，要冯下野出洋，交出兵权。冯玉祥在政治上陷入极端孤立的境地。

面对蒋介石强大的军事和政治压力。为了在政治上争取主动。冯玉祥于五月二十七日通电全国表示下野。

为了缓和蒋介石的进逼，并争取同阎锡山合作，冯携夫人及女儿于六月二十一日离陕赴晋，对外声称赴晋转道“出洋”。

遭阎先后软禁其于晋祠和建安村。

在冯被软禁期间，阎鼓动冯以电报指挥驻陕西的冯部将领，于一九二九年十至十一月间，发动了第二期反蒋战争，却又因阎的出卖而失败。

冯玉祥设法由鹿钟麟带到陕，指示部属派人与蒋联络，“摆出秘密联蒋的姿态，并故意让阎侦知！”……

使阎产生蒋冯勾结的错觉，同时公开致阎电，‘“要求放回冯，共同反蒋！”。

而此时，又正值蒋、阎矛盾尖锐化，蒋已派人向西北军表示，希望“合力倒阎！“。

而鹿秘密派往南京的代表，与蒋介石的代表何应钦谈判，鹿同时又派闻承烈、李忻赴河南与韩复榘、石友三联系。

韩、石这次倒是表示坚决打倒阎锡山。阎得悉冯部联蒋讨阎的消息，为摆脱危局，立即向冯表示坚决联冯倒蒋。

汇集于太原的各反蒋派别的代表，拟订了倒蒋的军事组织方案。以阎为中华民国陆海空军总司令，冯与李宗仁、张学良为副司令。刘骥为总参谋长。

一九三零年二月二十七日，阎亲临建安村看望冯，抱头痛哭一番，彼此表示：“同生死，共患难，反蒋到底！”并歃血为盟。

次日上午，阎宴请冯夫妇。

即日各方反蒋势力派代表三十四人，召开军事会议，即所谓太原倒蒋会议。该会议中议决了八项关于联合反蒋的决策。

冯玉祥由此参加中原大战反蒋联盟。

二、蒋阎矛盾

一九二九年初，蒋介石以划分“国税”和“地方税”为名，迫使阎锡山将平津税收划归中央；阎锡山却申请发行省公债三千万元，但未获结果。

北伐后期，阎锡山从蒋冯相争中获利，开府北平，蒋介石虽委任阎锡山为京津卫戍司令。

但是同时，却派遣何成浚为北平行营主任兼市长。上下左右的人事布局，使阎锡山惴惴不安。

据说，一九三零年一月十三日，前往郑州参加军事会议，并准备履行国民党军副总司令就职仪式的阎锡山。

在得知蒋介石命令河南省政府主席韩复榘，要逮捕自己的密令后，连夜逃回山西太原，并决定倒蒋。