五月初，中原大战正式拉开帷幕，西北军以冯玉祥为首，军事部署是这样，以张维玺率部为第一路，并由陕西南部兵出紫荆关，经内乡、鲁山进出平汉线。以孙良诚为第二路，庞炳勋为第三路，由陇海路进出郑州。以宋哲元为第四路。
孙连仲为第五路，并由甘肃、青海经陕西陆续向河南集结。以万选才为第六路，沿陇海线向开封、归德前进。另外，将各路骑兵集中起来组成集团军，划归郑大章指挥，配合步兵作战。由于王德彪是骑兵，本身就是配角，因此他的反叛对西北军的整个军事部署影响不大。
以刘郁芬坐镇后方，统筹陕、甘、青等省后方工作，同时监视王德彪的举动。整个西北军共26万余人，冯玉祥决定全部开赴前线，以便联络各方力量，绝地而后生，誓与蒋介石集团决一死战，并进行一场破釜沉舟的大决战。
早在四月份，部署在河南的韩复渠部，考虑到毕竟自己是老西北军一员，兄弟相残恐作战不利。他是既不愿也不敢和冯军作战，又不愿再反叛蒋打冯。乃向蒋介石请求开往山东抵御晋军，蒋介石理解他的心情，准许他离开河南前往山东。
韩复渠于三月下旬率部东撤，东撤时，他的骑兵师张德顺部趁机脱离他，返回西北军阵营。顿时形势对蒋介石很不利，故西北军兵不血刃占领郑州、洛阳等重要城市。万选才部趁势占领河南东部的开封、归德，万选才顺势就任河南省主席。
四月中下旬，冯军第一、二、三路分别进至平汉路以西的浙川、内乡、叶县一带及陇海路西段之洛阳之郑州一带。而晋军一部和大部分炮兵，在徐永昌、杨爱源指挥经郑州转往豫东兰封一带。此时，驻冀南、豫东、皖北的石友三、万选才、刘茂恩、刘春荣及孙殿英等部均归其指挥，在津浦线方面的晋军，由傅作义、张荫梧分别指挥。这里和原有的历史有所出入，那就是张荫梧要听从傅作义的统一指挥，他们重点进攻德州、济南。
让我们再看看蒋军的部署，届时韩复渠部为第一军团总指挥，并据守黄河南岸，以阻晋军沿京浦路南下。以刘峙为第二军团总指挥，分守徐州、砀山、宿县。以何成浚为第三军团总指挥，分守平汉路许昌以南各地。以陈调元为总预备兵团总指挥，并与投向蒋介石的马鸿逵部布防于鲁西、济宁一带，防止石友三的进攻。而杨虎城部则布防于南阳一带，范石生部警备襄樊一带，形成武汉方面的战略纵深。
五月一日，阎锡山和冯玉祥会于新乡，然后同车前往郑州。双方进一步达成谅解和协议，并一致认为现在的国内形势于己十分有利。桂系的李宗仁、白崇禧已经准备就绪即将发动进攻。东北的张学良虽然不能出关，但是答应提供武器弹药相助。其实张学良是看看情形再说，再加上对苏作战新败，暂时无力出兵，也许是各种原因兼而有之。
汪精卫复电摇旗呐喊，在舆论上提供声援，表示通力合作、共举大事。并号召各友军团结一致，反蒋到底。从总的形势看，时机已经成熟，大战迫在眉睫，因积极发动对蒋介石的全面进攻，他们彼此经过交流，对这次联合讨蒋信心更强。
阎锡山到达郑州的第二天，便会同冯玉祥在郑州碧沙岗烈士祠召开军事会议。并对整个军事部署进一步做了如下调整：以徐州、武汉为第一期作战目标，分别由京浦、陇海、平汉三路进攻，京浦路方向的攻击由第三方面军担任，并以徐州为目标采取攻势。
陇海、平汉两路，因第二方面军由西北东调，集中部署需要时间，暂时采取防御攻势，借以造成大兵压界的态势，起到震慑作用。陇海线以第三方面军为主力，并以孙殿英、万选才、刘茂恩、刘春荣及石友三一部，均归第三方面军前敌总指挥徐永昌指挥和调遣。
平汉线以第二方面军为主力，由攀钟秀部配合作战。在平汉路以东、陇海路以南的三角地带，设防于兰封、许昌之线。以第二方面军第四、五两路军约十万兵力作为机动部队，控制在通许、尉氏、郑州、洛阳等地，并策应各方、伺机而动。
如果蒋军主力向京浦线发动攻势，这支军队则长驱蚌埠，威胁将军的后路。如果将军主力向平汉线发动进攻，这支军队即转向武胜关，策应两路正面部队，以转移攻势。联合作战部署计定后，阎锡山委任鹿钟麟为二、三方面军前敌总指挥，徐永昌为副总指挥，以便协调各方面的统一指挥。
军事会议结束后，阎锡山前往石家庄，主要负责京浦路方向的作战，而冯玉祥主要指挥陇海路方向的作战，任务分工明确。事后冯玉祥的幕僚不屑说：“看情形，阎锡山意在包打徐州，然后长驱南下，抢先占领南京，借以树立他的威信。”
冯玉祥轻蔑说：“那好哇!就怕他包打不了，到时候再看我们的。”普遍认为，晋军善于防守，对于进攻作战，尤其是大兵团进攻作战缺乏经验，所以冯玉祥根本不用担心阎锡山捷足先登。阎锡山临行之前曾对冯玉祥说：“大哥这里有什么困难，请随时吩咐、不要客气，我一定竭力办理。二、三方面军是一家人，我希望做到有苦共尝、有福同享。”
冯玉祥对阎锡山的真诚感激涕零，他不厌其烦的对属下说阎锡山的好话，并对大局前途充满了乐观的情绪。也许受其感染，整个西北军，暂时形成了众志成城的局面。郑州军事会议结束后，中原大战也就正式拉开了序幕。
同样是在四月初，驻守京城的耿一夫接到命令，并让他的全团人马撤往徐州。实际上早在年初耿一夫部队的主力已经陆续撤往徐州，而在北平只保留了一个留守处。耿一夫作为迟留人员，要处理一些善后工作。首先他解散了北平情报工作组，并嘱咐穆维平先让情报工作组的成员隐藏下来，并让穆维平不要灰心，说中央军一定会打回来的。
时间进入四月份，形势越加危险，耿一夫不得不撤离。本来他想带上兰香，可是穆夫人坚决不同意，并说：“兵荒马乱的、好好的日子不过，非要兵戎相见，这是什么世道哇！你说这是为什么？”耿一夫面对岳母的询问，无言以对，关键是他无法讲清楚，这场即将来临的大战，到底是为何？而他作为党国军人，必须走向战场。
穆家人为他送行，大家心情都非常沉重。晚秋说：“兄弟，我不知道你们谁对谁错，我也不懂什么政治信仰，若是你和你大哥日后在战场上刀枪相见，要相互照应，不要成为死敌。哎！这个世道到底是怎么了，为什么就不能消停。”
耿一夫劝慰说：“晚秋姐，以大哥的精明，他绝不会上战场。你放心大哥肯定会没事。虽然我们分属两个阵营，但是我们各为其主，是没有办法的事情。我们不会成为死敌，我一向尊重大哥，不管这场战事如何，我相信大哥肯定会相安无事。”