铁路桥方面日军第12军主力在中牟方面日军开始进攻后，乘守军注意力集中于中牟方面之机，于18日夜利用夜色掩护，逐次经黄河铁桥潜至南岸邙山头桥头堡阵地，接近攻击准备位置。为解除南进时的侧背威胁，进攻开始前一日（1944年4月19日）晨，第110师团第163联队的第2大队在猛烈炮火掩护下，向邙山头西侧高地上的汉王城据点发动猛攻。守军预11师1个营奋起抗击，激战至中午前后，阵地全被摧毁，营长王鑫昌以下300余人全部英勇牺牲。守军第85军当即令预11师控置的预备队第33团向汉王城反击，同时令军工兵营增援摩旗岭，令特务营增援牛口峪，以加强防守力量。但由于日军后续部队不断增加，反击部队伤亡极重，团长余子培身负重伤，反击失利，摩旗岭高地亦于当夜失守，守军第110师撤向乐阳。摩旗岭高地失守后，日军邙山头右侧已无顾虑，守军炮兵失去设于该高地的观测所，炮火威力无从发挥，对战局颇有影响。20日，守军第85军奉令向塔山、万山地区撤退。于是日军第62师团沿平汉路及其西侧地区直趋郑州，第110师团则向密县突进，战车第3师团及独立步兵第9旅团等均于20日拂晓进至黄河南岸。至22日，郑州、新郑、尉氏、洧川、荥阳、广武、汜水、塔山、万山等地先后被日军占领。日军第110师团及第37师团第225联队分由北、东两面向密县进攻，于24日占领密县，并继续向登封推进。25日，第110师团攻占虎牢关，守军第96军一部退至巩县。第12军主力在新郑以南地区集结，作下一步进攻的准备。
围攻许昌战
1944年4月26日，日军第12军在新郑战斗指挥所召集师团长、旅团长开会，讨论进攻许昌、郾城及向左迂回的问题。27日晚，正式下达了作战命令，令第62师团进出至许昌西南颍桥镇一带，阻截守军向西南山区撤退和由西南方向向许昌增援的通路，尔后准备向禹县进攻；令第37师团从北、西、南3个方向攻击许昌城，尔后以主力向舞阳进攻，以1个联队归第27师团指挥，向郾城方向追击，占领郾城后，留1个大队守备，主力归建，令第27师团在攻占许昌后指挥第37师团的1个联队攻占郾城，与第11军派出北上的部队会合后转归第11军指挥；令独立混成第7旅团由东面攻城，攻占许昌后留一部兵力守备许昌，主力准备向禹县前进；令骑兵第4旅团在许昌战斗后进出至北舞渡附近，准备沿旧县、宝丰向临汝前进；令战车第3师团以2个中队配属第37师团攻城，主力在攻占许昌后准备向临汝推进。预定30日晨开始攻击。
当日军部署进攻许昌时，第一战区组织反击，令汤恩伯“以第29军全部以第13军两师击灭密县之敌”。汤恩伯令第13军配属暂16师由禹县北向密县实施反击。这次反击虽然使日军第110师团暂时转为守势，但对日军第12军主力围攻许昌并未产生影响。1944年4月29日夜，日军第62师团首先行动，迅速攻占第20师防守之颍河两岸阵地，掩护其他部队进入攻击出发地位。1944年4月30日拂晓，在炮兵、航空兵火力支援下开始攻击。守军新29师依托工事顽强抗击，日军伤亡甚众。激战至17时30分左右，守军伤亡惨重，日第37师团第225联队及战车第3师团第13联队分别由许昌城西和城南突入城内。经巷战后，新29师于当夜在城东北角突围，突围过程中师长吕公良阵亡，残部逐次向叶县方向转移。1944年许昌。
打击汤兵团
日军“华北方面军”认为“当时在重庆军当中，第八战区的第1军和第一战区的第13军是各该战区中的精锐核心兵团。重庆军的特点之一，是核心兵团一旦被打垮，全军就要支离破碎，因此打垮第13军，就等于打垮汤军”。当得知汤恩伯的第13军正在登封地区反击密县日军第110师团的情况后，认为“围歼第13军的良机即将到来”，“方面军参谋部于是不断以电话、电报指示第12军：‘赶快咬住第13军，予以围歼”。日军第12军根据方面军的指示，不待许昌攻下，就于1944年4月30日10时30分下达了攻占许昌后向登封转进、寻歼第13军的命令。攻占许昌后，第27师团及第37师团第227联队（配属1个步兵大队、1个山炮中队）于1944年5月1日夜由许昌南进，5月5日下午攻占漯河和郾城。守军第89军新1师向东撤走。武汉地区日军第11军根据“中国派遣军”的命令，在日军占领许昌时，派独立步兵第11旅团（7个大队）于5月1日夜由信阳北上，2日至明港，3日拂晓至新安店。由于防守确山一带的第五战区第68军部队不战而走，日军第11旅团当日占领确山。日军第27师团先头部队仅受守军第29师的轻微抵抗，即于5月7日占领遂平，9日进至确山，与第11旅团会合。平汉路南段被日军打通。当日军第12军南进时，驻于上海地区的第13军奉“中国派遣军”之命，派第65师团师团长率其步兵第71旅团和第64师团的步兵第69旅团，于4月25日开始从安徽凤台、正阳关向颍上、阜阳进攻，以牵制位于平汉路以东的第15、第19集团军，策应第12军的作战。该师团的师团长惟恐过早深入而被歼，27日占颍上后即缓慢前进，至5月6日，9天时间仅前进约30公里。8日，日军27师团因已占领遂平，京汉路又基本打通，故返回原防。
日军第12军主力于1944年5月2日开始向登封转进。根据方面军的意图，该军围歼汤恩伯第13军的作战指导大致为：“派第110师团由北方，第62师团由东方，包围歼灭第13军。再派战车第3师团和骑兵第4旅团主力由临汝及其以西地区，向大金店方向前进，以便歼灭敌军。此外，派战车师团部分兵力和第37师团主力确保临汝至长埠街道路附近要冲，尽力围歼向南撤退的重庆军。”
5月3日，日军战车第3师团已突抵郏县，汤恩伯急令第85军将登封防务移交刚到的第9军，迅速增援临汝，协同47师守备城防。与此同时，守军第38军亦令第17师一部协同新35师向已拥入至方家岭附近的日第110师团进攻。但在守军部署尚未就绪之际，日军第110师团已于5月4日突进至登封西北约16公里的圣水附近，切断了登封与偃师的交通线。第4集团军巩县以东阵地的侧背亦因之完全暴露。日军战车第3师团在守军第85军到达临汝之前，已于5月4日拂晓占领临汝，守军第47师与第85军向临汝以南退走。日战车师团继续西进，当晚即进抵伊川以东附近渡河，切断了第31集团军的后方联络线。其机动步兵第3联队及战车第13联队一部，于当晚突进至洛阳南方的龙门附近，形势急转直下。至此，守军第9军与第13军已被日军分割，而第9军更陷于包围之中。5月5日，第9军突围，向颍阳镇撤退，途中遭日军节节截击而溃散，损失重大。得悉颍阳一带已为日军占领，遂于6日夜退向嵩县东北收容整顿。与此同时，原在告成、白沙地区的第13军及暂16师及预11师亦于5日黄昏前突穿日军白沙以南的封锁线向临汝方向撤退，沿途亦遭日军战车部队的不断冲击，损失奇重，后在第85军掩护下，才得以穿越临汝以东封锁线南下，向半扎附近集结。防守巩东、金沟至老饭沟一线的第4集团军在第9军和第13军等突围溃退后已形成孤立突出，旋奉命向洛阳西北地区转移，至5月8日亦退至陈凹附近。至此，汜、登主阵地全部被日军占领。
河防的崩溃
为了策应第12军作战，日“华北方面军”令第1军派第69师团师团长率其第59旅团5个步兵大队及独立混成第3旅团3个大队于5月9日夜由垣曲渡黄河攻略渑池，以阻止第八战区东援；为加强进攻洛阳的进攻力量，还调防守北平的第63师团师团长率所属步兵第67旅团及3个独立步兵大队赶至郑州，并指挥独立第9旅团及第12野战补充队（称“菊兵团”或“野副兵团”）参加进攻洛阳的行动。
1944年5月10日，“华北方面军”下达命令：“第12军应以一部兵力歼灭临汝西南和嵩县方面的重庆军，同时以主力迅速向宜阳、新安方面挺进，进入洛阳西北方；第1军应迅速渡过黄河，向洛阳方面挺进；野副兵团应击溃洛阳以北的重庆军，向新安方面挺进；以上东、西、南互相呼应，围歼第一战区军，进而攻占洛阳；敌军退却时，应立即朝陕县或向洛宁方向急追。” 日方面军虽然下达进攻洛阳的命令，但第12军对此有不同的见解，认为当前主要的任务应该是追击刚被击溃的汤恩伯部和第31集团军，在它们整顿以前予以击歼，进攻洛阳及其周围的蒋鼎文部应视为次要任务，遂不按方面军的命令进围洛阳，仅以独立步兵第9旅团、第110师团及战车第3师团各一部对洛阳保持监视，而以主力分沿黄河南岸，朝颍阳至新安、龙门街至嵩县和宜阳方向追击前进，另以第62、第37师团分别尾追撤退的各守军部队，在临汝以北，西向伊、洛河上游河谷追击。
1944年5月10日，南京政府军事委员会作战部转发第一战区指导大纲。主要内容：1．第15军及第94师仍固守洛阳。2．第4集团军及第9军（目下集结于洛阳以北之陈凹）应迅速南向宜阳附近增援汤兵团。3．汤兵团以主力固守伊阳（今汝阳）、宜阳，并派一部守洛宁，俟第4集团军到达后，再行转移攻势。4． 刘戡兵团应集结磁涧（洛阳以西约17公里）以南地区，准备侧击由渑池向洛宁或向洛阳前进之敌，并策应第36集团军之作战。5．第36集团军应以一部酌留河防，抽调主力打击犯渑池之敌。6．第39集团军应速集结主力，阻击南渡之敌，相机转移攻势。7．该战区应先控制伊阳、宜阳、洛宁、嵩县各据点后，再图反攻。8．第一战区司令长官部指挥所可转移洛宁第14集团军总部附近。各部队奉命后，乘日军尚未迫近时，于10日进抵指定地区。
日军第1军第69师团于5月9日夜从垣曲及其以西一带强渡黄河，担任河防的新8军暂29师及河北民军一部稍战即退，日军于11日攻占英豪、渑池，守军新8军军部亦稍一接触即行南撤，日军在渑池获得了大批粮食、弹械，并切断了陇海路的交通，洛阳守军从此陷于孤立。1944年5月12日，日军第37师团第225联队击败第12军第81师，接着占领嵩县。汤恩伯兵团各军间的联络被割断。13日，日战车第3师团一部击败刘戡兵团的暂4军，攻占磁涧；第47军亦放弃新安南退，撤向洛宁。日军紧紧追击，14日占宜阳，15日占韩城，17日占洛宁，20日占卢氏。第一战区的第4集团军、第36集团军、刘戡兵团等部队均退至闵乡附近地区，战区司令长官部移至闵乡东南的官庄。此时汤恩伯兵团早已溃退至伏牛山地区，洛阳陷于完全孤立。
洛阳攻守战
防守洛阳的第15军及第94师共7个团的兵力（第64、第65师各2个团，第94师3个团），分为“城厢”、“邙岭”（城北）、“西工”（城西）3个守备区，第94师担任城厢区守备，第65师担任邙岭区守备，第64师担任西工区守备。日军在第12军及第1军追击第一战区各部期间，对洛阳采取了“封锁”措施，第12军在洛阳周围的部队和炮兵等，凡属不参加洛河追击的部队，全部配属给菊兵团，负责执行此项任务。划归菊兵团指挥的有第110师团第163联队第1大队、独立混成第1旅团的步兵第74大队、独立混成第2旅团的步兵第5大队、独立混成第9旅团的步兵第38大队及野战重炮兵第6联队的1个大队。连同菊兵团本身的10个大队，总计14个步兵大队、1个重炮兵大队。
1944年5月17日，菊兵团各部队全部到达洛阳周围。兵团长野副昌德决定18日开始进攻洛阳。当天，除城北邙岭区仍为第65师防守外，城西、南、东三面日军均已迫近城垣。在守军坚强抵抗下，日军的多次突击均被击退，激战终日，毫无进展。“华北方面军”于20日晚下达命令：“应以目前态势继续进攻，并纳入第12军司令官指挥。”21日至23日，日军先后攻占邙岭区内后洞、上清宫、苗家岭等各要点，守军退入城中。
1944年5月24日13时，日军在航空兵、炮兵及坦克支援下，对城垣发起猛攻。激战约1小时，日军战车第3师团及其机动步兵即突破城西北角。17时，第63师团亦突破城东北角。18时20分左右，日军的坦克冲入城内，中、日双方军队展开激烈的巷战。第15军军长武庭麟下令各部队各自夺路突围。黄昏后，大部撤出，未接到命令及未及撤离的官兵仍英勇地进行逐屋争夺战。激战彻夜，至25日8时，日军完全占领洛阳。
战争结果
豫中会战仅30余天，日军即打通了平汉路南段，并占领了沿线各要点及古城洛阳，击溃了第一战区的主力部队，实现了战役企图。第一战区的军队损失严重，第36集团军总司令李家钰在撤退中牺牲。据台湾国民党当局的《抗日战史》记载，第一战区在此次战役中伤亡官佐817员、士兵18327人，日军伤亡4000人；据日本防卫厅防卫研究所统计，日军伤亡3350人，中国军队阵亡32290人，被俘7800人。第一战区在战役结束后所作《会战之检讨》中说：“此次中原会战，挫师失地，罪戾难辞。”确是事实。为此，第一战区司令长官蒋鼎文和副司令长官汤恩伯均被撤职。
失败原因
客观原因
一，经过7年抗战，中国的军力和国力已经消耗殆尽。抗战后期，国军战斗力急剧下降，其军队素质日益低下。抗战前国民政府训练的精锐部队在抗战伊始就损失大半，1929年至1937年从中央军校毕业的军官约有25000人，但刚进入1938年就有10000人战死。而中国在兵役方面弊端重重，兵员补充困难。国民身体素质低下，1943年国民政府曾动员知识青年、士绅子弟和公教人员服役，但经体检合格率不及十分之三。部队待遇低下，经7年抗战和日军封锁，大后方通货膨胀严重，军费的提高远远赶不上物价上涨。
二，当时国军精锐多集中在滇西缅甸。其中驻印军3个师全部美式装备，在云南的26个师为半美式化。
三，河南部队战力不足。当时第一战区汤恩伯指挥的21个师，有7个师战力不足。如第78军的三个师仅由两个独立旅和第三集训处的补充兵新编而成的，编成以后并未得到装备，不及一月就开始作战了。如精锐第13军中的第117师、暂编15军中的暂27师、新29师、暂55师，或是新编战力尚未养成，或是无作战经验，也无装备补充。
四，美援武器来得太少。据1944年8月美国政府发布的资料，至该年6月的租借物资供应状况：运往各国物资282.7亿美元，英国所获值93.2亿美元，中国所获值1.5亿美元。中国所获仅为总物资的百分之0.53%。而当时租借物资分配权在史迪威手中，来的部分90%又都被史迪威投入滇缅战场。在1944年6月以前，除远征军外，中国国内陆军未获得一枪一炮。直到1944年9月，国内国军获得的美援陆军武器才仅火箭筒506具，迫击炮30门，战车防御枪618挺，山炮96门，步枪1000支，机枪531挺，冲锋枪706支。汤恩伯嫡系主力第13军，直到1945年春才获得美式装备。
五，作战中日军破译了中方的部分关键电报。这次作战一开始，敌华北方面军通过情报掌握了国军的动态。日军知当面的国军，主要是由“黄埔系”军官所统率，此时的黄埔系正提倡“国家至上，民族至上”。他们既抗日又反共。日军认为，在这些部队中不易策动叛变和通过内线获得情报。因此，主要是通过无线电侦听和破译密码，以了解国军的动态。如当敌到达长葛时，第一战区即确定南路坚守许昌，汤恩伯部队分为南北两个集团，南集团在许昌地区牵制日军主力南进；北集团从登封攻向郑州敌后兵力薄弱之铁路沿线，进行侧击和尾随。这一计划的电报被日军破译，知第一战区的主力第13军位于登封地区，因而敌在刚攻下许昌后，仅使部分部队仍沿铁路南进，以麻痹守军，而主力由许昌向右回旋，以重兵封锁许昌经郏县、临汝去洛阳的公路，围歼在登封的汤恩伯所属的北集团。又如5月8日，蒋介石给第一战区必须坚守洛阳的电报也被日军破译，于是华北方面军急令驻山西的第一军，将预定从5月11日由垣曲、平陆地区南渡黄河之计划，提前于5月8日渡河，首先封锁洛阳以西的渑池、新安地区，控制洛阳守军与西部的联络。吉本的第一军因准备时间不够，才改为从5月9日南渡黄河。
六，日军集中使用战车部队。此次日军出动了坦克装甲车691辆（内坦克225辆）集中使用快速突击，并出动汽车6100辆、马匹3.3万匹以加强部队机动性。而河南又为平原地区，利于日军坦克装甲车、汽车等的机动。日军依靠战车部队，很快形成了汝河沿岸的封锁线，从战役上割裂了汤恩伯集团与伏牛山区的联系而使其陷于被动；对步炮联合、空地协同难以得手的许昌、洛阳和灵宝弘农河西岸，均由于战车部队的加入，形势很快改观。
七，因油料等原因，中美空军于豫中会战出动仅400架次，而日军出动达则有1700架次，日军出动架次是中方的4倍多。
主观原因
一，1943年以后，国民政府高层认为日本已经不可能在中国发动大规模进攻，有依赖盟军等待胜利的思想。
二，统帅部军委会和战区战前的战略误判失误。虽然判断日军将进攻，但认为日军仅是要打通平汉路和打击中国军队而已，会像以前的枣宜会战、豫南会战等一样打完就恢复态势。
三，具体会战部署失误。就战略战术而言，豫中地势平坦，均系旱田，便于日军的机械化部队和骑兵的运动。面对装备精良的日军的攻击，中国军队理应扬长避短，在利用黄河防线滞缓日军的同时，应将主力放在嵩山、伏牛山等山区与敌人决战。但中国军队在日军左突右冲的攻击面前，首先在平原耗尽了战力，等到退到山区已经溃不成军。再者，河南诸城除洛阳外如郑州、许昌、新郑等大都无险可守，尤其不利于劣势装备的守军作战，但第一战区却都投入师以上的部队并下令死守，这样既分散了兵力，又徒增伤亡。再加上重武器的缺乏，整个战场就无从收拾了。
四，汤恩伯以贸易养军，商业气息腐蚀了部队战斗力。1941年后，汤恩伯为扩大自身实力、防止游杂部队投日和抑制中共力量的扩大，大量扩军，靠中央补给的军费是远远不够的，国民政府只发给正规部队的军费，其他部队的经费只能由汤恩伯自行解决。这时经幕僚策划，汤恩伯在界首设立鼎泰公司，把后方出产的桐油、茶叶、南阳绸等土特产运到沦陷区出售；又把上海等地的化妆品、日用品、汽油等物资运到后方脱手，从中收取利润。此后，汤恩伯又在界首设立物资管理处，操纵对日伪物资套购、交换及对蒋管区农产品收购和垄断。此外，还在累河开设中华烟厂、在禹川开设陶瓷厂及毛纺厂。可见，为保障扩编后部队的日常支出需要，汤恩伯已经实施了多种经营，只要有钱赚，便设法去图。
《第一战区中原会战之检讨》中说汤恩伯的部队（当然不是所有部队）“一经与敌接触，亦即南撤”。（但实际上日军4月28日的电文中称：“敌军斗志一般旺盛，我军发起冲锋以前，坚决地抵抗，并且屡次进行反攻。在正面战斗时抵抗尤其顽强，但受到侧后方攻击时则容易崩溃”。）
汤恩伯副司令长官部总参议宋涛说：临汝一陷于敌手（登封附近的汤集团已经被日军包围），我前线许多“部队都不战而退，望风披靡”。
五，汤恩伯与蒋鼎文的矛盾使“将帅不和”。
暂15军的一个师在许昌与绝对优势之日军打了将近四天，全师殆尽。许昌失守后，日军转身打击集结在河南登封的13军，10万配有坦炮兵的日军对付13军，可想而知，又得跑，日军追，追没追上，但原先战区交给第13军侧击日军的任务也告吹。这个阶段，过河的日军主力大部被暂15军与13军吸引在中牟、许昌一线，让人不可理解的就是在这个阶段，黄河岸边那十几军的国军竟然在等着什么，他们没有上，在看，等着日军解决了许昌后来打他们。
其后便是日军集中起来攻击洛阳，位于洛阳的一战区长官部这时候后悔都晚了，他也只有跑了，跑进大山中。而在河边的国军，这时候已经被日军全部割断，长官部也跑了，他们能做的就是各自怎样把自己的部队带出死地。
六，部队军纪在败退时很差。1943年河南大灾，河南参议会和人民群众说：“河南灾荒除水灾、旱灾、蝗灾外，还有汤灾。”（但亦有记载，1942年，河南发生特大旱灾，汤恩伯自当年10月至第二年5月，曾组织所部展开救灾运动：筹赈放粮（以部队节食5-8个月为主）268万斤，奖励吃黑馍实行工赈、官兵5—8个月节约出700多万斤，为预防豫民春荒而贷麦，军政共贷出500余万斤，今明两年从皖北购运杂粮千余石，5个月平籴千余万斤耗去运费570万元赈灾，师、团以上主官收养灾童、每军达100—200名灾童 。1943年，河南旱灾、蝗灾严重。汤恩伯曾“发动全体官兵，节食以救灾（民），兴工而堵黄泛，阅时经年，活人救活灾民达数百万。” ）这样的军队不仅得不到民众的支援，而且如《检讨》中所说：豫西的民众“到处截击军队”，“甚至围击我部队，枪杀我官兵，亦时有所闻”。军队所到之处，保、甲、乡长逃避一空，“将仓库存粮抢走，形成空室清野，使我官兵有数日不得一餐者”。当时第13军第89师第266团团长方耀也说：“由于汤恩伯的军队几年来驻扎在河南，军纪不好，所以当汤军突围时，几乎每个村庄都向军队打枪”，“第31集团军总司令王仲廉率领总部直属部队突围，被武装民众包围缴械”，“汤恩伯亲自带领的直属部队，损失得更惨……”《检讨》说是老百姓受“隐伏汉奸分子的淆惑”才“阴扰国军”。但方耀记述道：“第13军突围后”，“行军十多天，开始时沿途百姓还表示欢迎，在路旁端着茶水给过路的官兵喝”，由于官兵“抓了十几个民夫”，“进入民房翻箱倒柜”，“强取民间粮食、燃料、蔬菜、杀猪、杀鸡，分文不给，粮食由部队主管人员如连、营、团长出具借据，在某村某家食用多少斤粮食，老百姓凭这借据可少付征购粮。有些老百姓牵着牲口带着东西上山避难，军队路过时上山搜索，牲口拉走以作军用，贵重物品抢走，武器缴掉”，“因此沿途百姓闻风而逃，弄得十室九空，民众恨之入骨”。这里方耀的回忆稍有矛盾（一面说汤军平时军纪不好，所以突围时，几乎每个村庄都向军队打枪；一面说“开始时沿途百姓还表示欢迎”），但总体意思是汤军败退之际因保甲乡长逃跑，仓库存粮被抢空，部队“数日不得一餐”，有部分部队不守军纪，抢百姓蔬菜、猪、鸡食用，导致百姓不满。
豫中会战结束后，新任第一战区司令长官陈诚在豫陕边界附近的西峡口召集汤恩伯部师以上长官和河南专员以上行政官员检讨失败原因，曾总结说会战失败是由“四不和”造成的：一是将帅不和(蒋鼎文与汤恩伯争权夺利，不仅同一战区指挥不能统一，而且实际形成两个战略集团，并相互勾心斗角)，二是军政不和（作战时地方不支持，且多掣肘），三是军民不和，四是官兵不和（大量士兵是硬抓来的，不仅官压兵、兵恨官，而且逃亡率极高，当然影响士气、战斗力）。这一总结虽然未触及统帅部战略判断和部署失误的责任，但所归纳的几个因素是完全符合事实的。
