关麟征被枪榴弹炸伤五处，成为血人，身旁官兵十余人全部战死，他仍毫不动摇，从容指挥部队英勇杀敌，终于击退了敌人占领了高地，强占潮河支流北岸（干沟）高地。
在师长的带动下，25师在古北口和日军西义一的第八师团血战三天，伤亡4000余人。关麟征因此获得青天白日勋章。《大公报》主笔张季鸾亲自撰写社论“爱国男儿，血洒疆场”，以贺其功。
1933年5月，二十五师奉命开到北平北郊休整，关麟征在离开密云时，见当地群众怕部队撤走后日军再来骚扰，十分惶恐，不禁感叹流泪说：“政府不顾人民安危，下令撤军，实在对不起老百姓！”
部队到达北平后，因为关麟征部队在古北口英勇抗日，北平一些大、中学校学生慕名而来，请他演讲，介绍抗日杀敌事迹。
关麟征看到平津一带群众抗日情绪高昂，一些大、中学生纷纷请缨杀敌，因而又是暑假，在北平郊区二十五师兵营，开办5000人的大、中学生军事训练班，派参谋作军事知识讲座，派营连长对学生进行军事操练，为即将到来的全面抗日战争进行了准备。
1935年7月，何应钦被迫与日方签订《何梅协定》，其中条文规定：国民党中央部队和宪兵要撤出北平和河北省。关麟征得知这个消息后，亲往北平拜谒北平军分会代理委员长何应钦，恳切陈词：
“如果部队不战而退出北平和河北省，党国将丧失民心!”他还积极建议何应钦加强军备与日军作战。与此同时，他还向南京蒋介石发出电报，并且命令二十五师全体官兵立即在北平城郊构筑工事，准备与日军作战。可惜关麟征的这些积极建议都没有被当时国民党掌权者采纳。
1937年，关麟征升任五十二军军长，辖第二师（师长郑洞国），第二十五师（师长张耀明），投入抗日战争。这年秋冬，他率部队在平汉铁路从事抗日斗争。9月，他参加了保定战役。除指挥本部两个师外，还指挥赵寿山的17师和曾万钟第三军2个师，因防御兵力太弱，被日第一军香月清司部迅速突破，这是他打的最窝心的一仗。
10月，日军第十四师团及第六、十六师团各一部在冀南由肥乡、成安、临漳等县进犯漳河，他率五十二军在漳河南岸与日军土肥原贤二的十四师团进行了一场激烈的攻防战。
双方发生白刃肉搏战，几次退而复进，失而复得，双方伤亡惨重。由于关军奋勇杀敌，终于使日军向漳河北岸邯郸、武安一带败退。关麟征从侦察员报告中得知日军在邯郸城外建有飞机场和汽油库，便立即从二十五师中抽调营长梁智伟，让他率一营部队夜袭机场，烧毁日本飞机10余架，缴获大批枪械弹药，受到第一战区司令长官程潜电令嘉奖。
漳河战役后的这年冬天，五十二军开赴河南漯河一带进行休整补充。在休整中。关麟征总结了自古北口抗战以来的经验教训，加强了部队的战术教育和射击训练，并且对全军将士进行了抗击日本侵略，维护中华民族独立的爱国主义教育。
全军校尉也进行了指挥作战的战略战术学习。关麟征自己也利用训练闲暇和夜晚，学习陆军大学课本《战斗纲要》、《战术作业》和《孙子兵法》等。
关麟征及其五十二军参加平汉铁路战斗后又转战河南、山东。1938年春关率部参加台儿庄会战。3月24日，关麟征指挥部队向盘踞在津浦铁路台枣支线的日军第10师团濑谷旅团发起进攻。
关麟征发现日军白天战斗活跃，晚上龟缩不动，就采用夜战火攻战术，命令部队昼伏夜出，消灭敌人。3月31下午，由临沂南下的日军坂垣征四郎的第五师团沂州支队四千人，突然袭击五十二军指挥部。
当时，关麟征身边只有一个警卫营的兵力约三百人。他沉着冷静，命令警卫连在离指挥部千米以外的地方展开佯攻，以迷惑敌人。及至黄昏，援军赶到，他立即指挥部队对日军突然实行反包围。敌军仓卒应战，伤亡众多，其骑兵部队全部被歼。
4月初，关部加速对台儿庄日军的攻击，白天或枪炮轰击，或白刃肉搏，晚上攀屋放火，乘乱追杀，使敌人日夜不宁，从台儿庄北面完成对日军的包围。4月下旬，关部奉令开至峄县以东、邳县以北防守，将日军国崎支队包围在码头镇西的北涝沟，给敌以重创，仅日军四一、四二联队伤亡就达一千四百多人。
台儿庄大捷后，关麟征升任第32军团长。蒋介石声称：“中**队如都象五十二军那样战斗力强，打败日本军队是不成问题的。”时人则称台儿庄战役中负责防守的孙连仲和负责攻击的关麟征为“孙钢头”和“关铁拳”。
徐州会战结束后，关麟征三十二军团经徐州以北向归德(商丘)撤退。关军行至豫皖两省交界处砀山与杨集之间，欲通过一座桥时遇到了困难。因为桥西已被日军占领，敌人用八挺重机枪封锁桥上通道。