第二集团军1937年8月上旬由原西北军一部组成的第二十六路军为主编组而成，集团军总司令刘峙、副总司令孙连仲，第二十七师、第三十师、第三十一师是该集团军的基本部队，属第一战区指挥管辖，第五十二军、第三十二军、第三军都曾加入过该集团军的战斗序列。该集团军是七七事变后最早进军华北增援第二十九军的中国军队，曾在琉璃河、良乡等地区抗击日军。后奉令调归第二战区指挥，参加扼守冀晋要隘娘子关的战役。1938年初，该集团军调归第五战区指挥管辖，孙连仲继任集团军总司令，其基本部队编组为第三十军和第四十二军，该集团军在台儿庄战役中是担任坚守任务的主力作战部队，为台儿庄战役的胜利作出了巨大贡献。后韩复榘旧部曹福林的第五十五军、宋哲元旧部刘汝明的第六十八军也加入该集团军的战斗序列。1938年11月3日，该集团军第四十二军军长冯安邦在大别山战役结束后转进襄樊途中遭敌机轰炸而牺牲。1939年初，该集团军调归第一战区指挥。1940年又划回第五战区，长期驻守豫西南鄂北地区，曾参加过第二、第三次长沙会战的策应作战。1943年孙连仲调任第六战区司令长官，其基本部队随其调至第六战区，第二集团军总司令由刘汝明代理，下辖第六十八军、第五十五军及石友三旧部米文和的第六十九军，参加过常德会战及豫西鄂北会战。

第三集团军1937年8月中旬由驻扎在山东省的中国军队奉令编组而成，首任集团军总司令为韩复榘、副总司令为于学忠和沈鸿烈，下辖第十二军、第五十五军、第五十六军和第五十一军，属第五战区指挥管辖，其中孙桐萱为军长的第十二军、谷良民为军长的第五十六军和曹福林为军长的第五十五军是其基本部队。1938年初，韩复榘因对日作战不利被国民政府军事委员会下令处决，于学忠继任该集团军总司令。该集团军曾参加台儿庄会战外围作战，第五十一军第一一四师师长方叔洪、第一○二师第三○六旅旅长扈先梅均在作战中阵亡殉国。1938年夏，第三集团军调归第九战区指挥管辖，集团军总司令为孙桐萱，但因第五十六军番号撤销(其第二十二师编入第十二军，第七十四师编入第五十五军)，而第五十五军加入第二集团军，第五十一军加入第三十一集团军，仅辖第十二军，后该集团军在江西参加武汉会战。1939年初，第三集团军调归第一战区指挥管辖，自此长期驻守河南。由于gmd政府对韩复榘旧部采取极不信任和限制、分化的政策，至1943年夏，第三集团军只辖有第十二军的第二十师、第二十二师、第八十一师。不久，孙桐萱被gmd政府借故撤职扣压，第十二军被编入中央嫡系汤恩伯的第三十一集团军，至此，原由韩复榘部队为主组成的第三集团军消失。随后，第三集团军的番号被转给中央嫡系胡宗南所控制的第八战区的部队，集团军总部设在甘肃武威，总司令为李铁军，下辖第九十一军的暂五十八师、骑十师、新编第四师等部，李铁军调任第二十九集团军总司令后，集团军总司令名义上由第四集团军第三十八军军长赵寿山将军继任，但实权控制在副总司令于达手中。赵原系杨虎城旧部，此次被蒋介石以升官名义调离原部队，剥夺了兵权。

第四集团军1937年8月中旬奉令组建，首任集团军总司令为蒋鼎文，下辖第二军的第三师、第八十师及独立旅等部，属第四战区指挥管辖。淞沪会战后期，该集团军的第二军曾赴上海参战。1938年7月，该集团军管辖第八十军的第七十五师和第八十师，驻守福建，后该地防务及部队改归陈仪为主任的闽绥靖区和第二十五集团军指挥。第四集团军的番号转而划归第二战区，由原杨虎城将军第十七路军出陕抗日并在著名的娘子关战役和坚守中条山诸战中屡立战功的部队为主扩编而成，集团军总司令为孙蔚如、副总司令为李家钰，下辖第三十八军、第九十六军、第四十七军，驻防山西南部。1940年，李家钰率第四十七军脱离第四集团军，另行组建第三十六集团军。1941年起第四集团军转归第一战区指挥管辖。中条山战役后，第四集团军退过黄河，驻守河南。1943年夏，gmd中央嫡系第十四军加入第四集团军战斗序列。尔后，gmd中央以明升暗降手法将第四集团军主力第三十八军军长赵寿山调任其嫡系第三集团军总司令，任命黄埔生张耀明为第四集团军副总司令兼第三十八军军长。1944年中原会战时期，第四集团军在登封、汜水一线战斗中曾给予日军以沉重打击。1945年7月17日，又以提升孙蔚如为第六战区司令长官为由，将其调离第四集团军，旨在控制和分化杨虎城的旧部。