10月,黄樵松率部随26路军转战晋东,陈兵娘子关。10月14日,日军77联队分向旧关及僮泽关侵入,黄率79旅迎战,并派部绕袭核桃园、关沟,经两日激战,肉搏十余次,将关沟之敌歼灭。击毙敌大队长中岛利男、少佐鲤登及其以下官兵300余人。黄樵松曾赋诗一首,讴歌这一胜利。诗写道:“陈兵娘子关,壮志搏云天。笑斩鲤登头,放歌大阪山。”(臧克家:《追记黄樵松烈士的一些往事》,《山西文史资料》第33辑)
居雁门关东南的1000号高地,为兵家必争之地,也由黄旅固守。日军曾多次进攻均未得逞。21日,敌增调39联队配以飞机大炮猛烈攻击。黄旅守军与敌展开肉搏数十次,至23日山顶工事完全被毁平,官兵全部殉国。经此战斗,黄旅能战官兵仅剩400余人。但“忠勇之气,牺牲精神,丝毫不懈”,“均抱与阵地共存亡之决心。”(《二十六路军总指挥孙连仲致蒋介石漾电》)
此后,随着太原失守,山西战局急转直下。黄旅奉命向晋南洪洞县集结途中,曾在霍县韩候岭布防,给南下日军以打击。1938年1月,孙连仲部由晋调豫整补,黄樵松升任27师师长。
日军占领南京后,企图打通津浦线,向徐州方面大举进犯。1938年3月,孙连仲第2集团军奉命开往徐州东北的台儿庄。行军路上,黄樵松目睹山河破碎、人民流离失所的情景,悲愤地写下了“救国寸肠断,先烈血成河,莫忘山河碎,岂能享安乐?”的诗句。22日,孙连仲率部到达台儿庄,以池峰城第31师占据台儿庄城寨及附近地区。23日,日矶谷10师团濑谷支队自峄县沿台枣铁路支线南下,猛攻台儿庄。黄樵松率27师由贾庄星夜徒步向台儿庄附近集结。翌日晚,日军突破台儿庄东北角,与池峰城部展开激烈战斗,黄部在斐庄、前后枣庄、孙庄一带与敌展开拉锯战。
28日,日调集兵力,再次发起猛攻,从西北角冲入台儿庄内。黄部郭团、杜团分向刘家湖、邵家庄、前园村、坟上等处进攻,并占领邵家庄,迫近刘家湖。29日,矶谷率师团主力自峄县附近南下,坂垣师团之坂本支队从临沂南下,一起猛扑台儿庄。黄樵松27师与张金照30师分左右两翼出击。4月2日,黄挑选奋勇队员250人,从台儿庄东北角攻入,延至东门,乘势向西北扩展;30师攻进西北角。翌日,庄内日军向我发起总攻,集中炮火向东南角轰击,黄部始由庄内撤出。4月6日,我军对台儿庄发起全线反攻,黄部分向纪庄、王庄猛攻,进抵沧汪庙、东庄、李庄、陶沟桥等处。敌不支溃逃,晚11时将各村占领。我大部随即向前后刘桥,刘家湖进击,肃清各村之敌。此时池师等部也将庄内日军肃清,从而取得台儿庄战役胜利。
台儿庄大捷在中国抗日战争史上谱写了光辉的一页。黄樵松自始至终率部战斗在第一线,在这次战役中所部付出了重大的牺牲。战后所部仅编为一个旅,在追击敌人的战斗中担任军预备队。
5月,日由晋冀抽调大军南下,企图攻略徐州。黄部受命驻守徐州西北九里山附近。徐州被日军包围,国民党最高统帅部决定分五路突围,黄部27师与30师奉命掩护友军撤退。5月19日,敌步骑炮兵附战车数十辆,在空军配合下猛攻27、30师阵地,“官兵皆深明大义,……虽孤军重围,仍极力苦撑,阵线屹然未动”(第二集团军孙连仲部参加鲁南台儿庄一带作战战报》)至下午5时,待徐州城内军队全部撤离,黄始率部冲出重围,24日到达淮阳附近。“沿途屡遭敌人追击,损失奇重”(同上)。
6月,孙连仲部驻湖北广水一带,27师驻应山。黄樵松利用部队休整机会,编印了《军民日报》,刊载战地消息,反映部队训练、军民关系等情况,激励将士作好战斗准备;同时成立了抗战干部随营学校,招纳新生,补充战斗中的减员。1948年太原起义中,与黄樵松一道就义的30军谍报队长王震宇,就是这时从汉口招来的新学员。27师经过短期补充休整,开往大别山北麓潢川一带,投入保卫大武汉的战役。
1938年8月,武汉会战大别山北麓战役开始。9月上旬,黄樵松所部在潢川以南地区与日军进行过一些战斗。中旬,日军13、16师团等部继侵占叶家集、商城等地,沿商(城)麻(城)公路进犯大别山,集主力攻击商麻公路上的战略制高点鸦雀尖,发誓要拿下这一战略要地。黄樵松亲自指挥保卫鸦雀尖。当战斗激烈之时,师指挥所从山腰搬到山头,黄樵松和参谋人员昼夜围看地图,指挥作战。诗人臧克家当年写的长诗《国旗飘在鸦雀尖》真实地记录了这次战况。诗中写道:“士兵死了,连排长上去。连长死了,拿营长去填。”“没有兵力给他增援,送去的是国旗一面。另外附了一个命令,那是悲痛的祭文一篇:‘有阵地,有你。阵地陷落,你要死。锦绣的国旗一面,这是军人最光荣的金棺’。”黄师与敌人在商麻公路鏖战月余,直到10月下旬武汉撤守前夕,日军始突破大别山。27师经老河口退到南阳休整补充。
1940年,豫南日军分数路向我进犯,5月1日在明港附近遇到黄樵松等部左右夹击,损失惨重,至5日被歼2000余人。这一消息轰动了后方,各报都在显著位置上加以报道。(《中央日报》重庆,1940年5月5至7日。) 5月18日,黄樵松为配合友军进攻信阳,派出一团人乘夜穿过敌据点,突入敌人占领的信阳车站一带,出其不意地消灭了一批日军,并放火焚烧了敌仓库。这一行动,也曾给全国军民以鼓舞。
守卫南阳是黄樵松参加抗日的最后一次激战,也是他抗日史上的光辉篇章:1945年3月,日军集结五个师团并骑兵第4旅团共7万多人,战车百余辆,于21日分路向南阳、老河口、襄樊进犯。黄樵松此时已调任68军143师师长,受命固守南阳。他一面督促部队整修城防工事,一面屯积粮秣弹药,还备棺材一口,亲笔书写“黄樵松灵枢”,表示决心与南阳共存亡。战斗打响后,黄率部顽强抵御,当独山为日军占领时,黄樵松迁师部于一酱菜店的顶楼上,白天凭栏指挥,入夜亲临前沿阵地。日军集中火力攻打小西关,黄部连续打退敌人四次进攻;东关、北关的守军与日军展开了巷战。守卫马武冢、卧龙岗、元妙观的429团三个排,在战斗中歼敌近千人,直到弹尽援绝,全部壮烈殉国。经七昼夜激战,顶住了敌人的压力,我阵地巍然未动。后来黄部受命突围。4月1日夜晚,士兵身穿棉衣涉水渡过白河。此时杏花初绽,河水仍寒。黄樵松回复再三,依依不舍地告别战地:“别矣南阳城,回顾复回顾,红杏暗送香,白水牵衣诉。”(《太原文艺》1980年第2期)这次突围后,有人写了一部名叫《铁打宛城》的历史小说,描写了黄樵松坚守南阳的悲壮场面。