1942年汤兼任第一战区副司令，以40万军队驻河南等地。但由于抗战初年的花园口决堤事件等一系列事件，再加上旗下部分军人军纪极差，曾出现组织性的抢劫强奸等恶行，河南的百姓普遍抵制汤部，甚至以“三大天灾”攻击汤部，更有“水、旱、蝗、汤，河南四荒”的说法。[2][3] 1944年日军全面进攻河南，很多河南百姓趁势，拿起锄头、大刀、成群地向国军部队发起攻击，汤恩伯警卫旅被缴枪，汤本人化装成伙夫逃走。[4] 国民政府事后文告称：“自此，散落于民间枪支不下十万。”结果，第一战区全面崩溃，汤部主力撤出华中，汤本人调任黔湘桂边区总司令。

汤在因功晋升、统御大规模部队后，数十万份子复杂的军队单靠对河南省征收粮饷，无力顾全军纪。依照汤恩伯的宿敌李宗仁在其回忆录指出，汤恩伯军队的军纪非常败坏，而蒋中正却特别喜欢这种将领，因为这种将领只能效忠蒋中正以免被清算。据称吴国桢亲眼目睹汤恩伯“吃空额”、“盗卖军用汽油”等行为，而河南人则以支持日军回应汤恩伯军队的劣行。在1945年日本投降之后，正是汤恩伯为侵华日军总司令冈村宁次辩护，认为其无罪，为“中国好友”。1949年1月29日，汤恩伯用军车将冈村宁次等259名日本战犯，送上返回日本的美国轮船。