此役74军被第19集团军司令罗卓英评价为“战斗力量坚强”！74军在战役中“拼死力拒，虽血肉横飞、伤亡惨重，仍不稍退，是日一日间敌我伤亡均在四千以上”，战功显赫，荣获国民政府第一号武功状和最高荣誉“飞虎旗”，被誉为抗日铁军。74军军长王耀武和第153旅旅长张灵甫旅表现优异，受到表彰。
上高会战之后，74军作为首批四个军之一换装苏式装备，得到115毫米榴弹炮4门，76毫米野炮8门，37毫米反坦克炮4门，7.62毫米m1910水冷式马克西姆（即“俄国版的马克沁”）重机枪25挺，7.62毫米m1910马克西姆托加莱和m1928德克恰廖夫（简称为dp型，即常见的转盘机枪）轻机枪70挺。
1941年9月，日军发动第二次长沙会战，目标之一就是寻歼国军主力74军。战役开始后74军奉命开赴沙市街增援，结果被日军情报机关侦悉，日军立即提前发动攻击，集中两个师团夹击74军，74军猝不及防与日军激战两日，57、58师伤亡过半，遭到了巨大损失。尽管此战74军失利，但在与日军遭遇之初，74军在华春山一线仍颇有斩获，并以凌厉攻势一度迫使日军第3师团后退，也显示了中国王牌军的威风。
1942年6月初，74军参加鄂西会战，虽然不是主攻部队，仍与增援的日军独立混成第17旅团发生激烈的遭遇战，该旅团遭到重创，其独立步兵第88大队大队长小野寺实、独立步兵第87大队大队长浅沼吉太郎于6日、7日先后被击毙。该旅团成为这次会战中损失最大的一支部队，5个大队长就战死3个。
1943年11月常德会战中，74军57师8000人坚守常德城16天，顽强抗击了日军陆、空、坦的协同攻击，在日军猛烈炮火甚至释放毒气情况下仍死战不退，日军不得不围三阙一，放74军一条生路，此时全师不足600人只有师长余程万率180人突围，其余官兵自愿与常德共存亡，与突入城内的日军逐屋争夺，全部壮烈殉国。6天后余程万就随反击部队又杀回常德，收复常德。此役正逢美、中、英开罗首脑会议，罗斯福总统听取了蒋介石的战况介绍，特意将余师长的名字记在备忘录上。著名作家张恨水就根据常德之战写出一部名叫《虎贲英雄》的小说。常德人民为纪念74军为国捐躯的牺牲将士，自发募捐，于1944年3月在市青年路东侧修建占地达30000平方米的阵亡将士墓地，作为永远的纪念。
1944年1月军长王耀武升任24集团军司令，施中城接任军长。下辖51师（周志道）、57师（李琰）、58师（蔡仁杰）。
1945年5月，在雪峰山战役中，74军再次显示出抗日铁军的雄风，给予日军以重创，获得两面“飞虎旗”。
八年抗战中，74军几乎参加了所有正面战场上的重大战役，尤其是在德安、上高、常德三次战役中表现最为突出，以其英勇顽强的战斗意志，被誉为抗日铁军，连美军顾问团曾有过“中国只有74军能打”的赞誉。
1945年8月，日本投降，74军空运南京受降，并担任南京守备，因此被称为“御林军”。
gmd整军会议后，第74军改编为整编74师，辖51旅、57旅、58旅共3万余人。此时的整编74师已是清一色的美械装备，长期受美国顾问训练，时称gmd部队五大主力中之主力。
后在孟良崮战役中，解放军共动用9个纵队，用5个纵队主攻，4个纵队打援和阻击敌人.经过3天3夜的浴血奋战，1947年5月16曰在山东孟良崮全歼整74师32000余人.张灵甫战败阵亡。7月追赠陆军中将。
重建74军
1947年夏，国军在74师未参加孟良崮之战的3个新兵教导团和1个榴弹炮营的基础上，加上该师归队的伤愈官兵，再补充新兵（最大一批补充兵员是广东航空警备旅），重建整编74师，师长邱维达，下辖第51旅（旅长王梦庚）、第57旅（旅长程有秋）和第58旅（旅长罗幸理）。邱维达，1906年出生，湖南平江人，字力行，号青白。黄埔军校第四期步兵科、陆军大学第六期特别班毕业。
历任国民革命军1军1师排长、4军教导团10连连长、46军54团连长、1师5团副营长、独立32旅694团营长、92师694团副团长、补充1旅参谋主任、99师295旅590团副团长、51师153旅306团团长。抗战爆发后任51师515旅副旅长、58师183旅旅长、57师副师长、14集团军参谋长、4方面军参谋长、74军51师师长。孟良崮战役时任台枣警备司令，所以没有参加，因他是74军的“老人”，便由他来负责重建，此时的74师，80%是新兵，装备也是日式和美式混杂。1947年11月，解放军释放了一批国军被俘的连、营、团级军官，其中一些老74师的一些军官又被派到新74师，而且多数官升一级，这些军官将老74军的训练和传统沿袭下来，加上还有一些老兵，可以说还有一些74师的骨干，所以新74师战斗力虽然与老74师还是有一定距离的，但比一般的国军要强.
初战阜阳
1948年3月底，刚转出大别山的中原野战军集中第1、2、3、6和11纵队以及华东野战军第10纵队，对阜阳发起攻击，因为阜阳守军比较孤立，同时打下阜阳可以为当时计划粟裕率3个纵队南渡长江扫清侧翼。阜阳当时是国军第14绥靖区公署所在地，但是守城的只有整编74师58旅，约9000人，得知解放军逼近后，立即进入临战状态，连夜抢修城防工事，加紧构筑工事，并在西南城墙上设置山炮阵地，市内拐角楼到大东门的城墙上设置迫击炮阵地。四门主要街道上各修筑了两座钢筋水泥碉堡，密布铁丝网和障碍物。gmd第14绥靖区公署设在城隍庙，58旅旅部在马公祠，国军决心死守阜阳，必要时放弃南半城，死守北半城。
解放军以1纵为主攻，第一步以第2旅攻击南关，第20旅攻击东关，然后第1旅攻击城垣。11纵则在北关助攻。
3月29日晚，1纵20旅59团在阜阳外围东三里湾歼灭守军1个连，随即59团派出3营4连担任警戒，全团在东三里湾休息备战。由于战斗很顺利，59团比较大意，第二天中午，国军222团1个营突然发起攻击，4连伤亡过半，59团在国军猛烈冲击下被迫退出东三里湾，59团民运股长吴明也在战斗中被俘，前天战斗中的国军俘虏也被尽数抢回。59团退出东三里湾后立即重新组织力量，发起反击，同时11纵也赶到助战，这才将反击的国军消灭，把吴明又夺回来。
3月30日晚，20旅58团派出尖刀连大胆穿插，一举占领了东关与阜阳城东门之间的吊桥，切断了两处国军的联系。随后58团主力跟进，占领了东关部分地段，但是58团在冲击途中遭到国军猛烈火力拦阻，伤亡很大，其中穿插的尖刀连只剩下一个班，无奈之下只好撤出东关。59团派出1个营前来增援，经过数小时激战，这个营也伤亡过半，同时国军组织1个排的突击队以火焰喷射器开路，猛攻58团在东关的出发阵地，危急之中，20旅旅长吴忠果断决定以攻对攻，下令58团全线出击，58团投入全部力量发起冲锋，这才击退国军反击并乘势占领东关。当夜，双方在东关外南北两侧彻夜激战，解放军在重机枪掩护下，接近吊桥西部的两座碉堡，使用炸药包将其爆破，随即攻进东关，不久守城国军反攻，夺回了碉堡，用机枪火力阻击解放军后续部队，并以反冲击将攻入的解放军压出城外。随后解放军接连发起2次进攻，终因后续部队跟不上而功亏一篑。据解放军58团团长战后回忆，阜阳之战是该团在解放战争中伤亡最惨重的一次战斗，全团伤亡600余人，只毙、伤、俘敌300余人。
东关战斗中，国军设在阜阳城文峰塔上的炮兵观察所，居高临下不断指挥炮火轰击东关和东三里湾的解放军，给解放军造成很大伤亡。1纵司令员杨勇命令第2旅尽快占领该塔，2旅4团团长晋士林亲临一线指挥，爆破手将炸药送到塔下，不料该塔结构坚固爆炸后居然没有倒塌，可是塔上的国军被吓坏了，不敢再战缴械投降。
东关激战之时，国军孤悬在城外颖河东岸七里铺的1个营在222团团长蔡鄂亚率领下，猛冲猛打竟从南关东侧解放军第2旅和第20旅的结合部，杀开缺口突入城内，颇有老74师的风采，令解放军吃惊不小。但这个营伤亡过半，团长蔡鄂亚也几处负伤。