抗日战争爆发后,以朱理治为书记的中共河南省委在开封北道门59号成立。在党的领导和抗日民族统一战线的旗帜下,成千上万的文艺工作者和一大批充满抗战激情、英勇献身精神的爱国青年从祖国的四面八方汇聚开封,抗日救亡运动轰轰烈烈、如火如荼,备受全国瞩目,其中尤以抗日文化宣传活动最具影响与特色。中共河南省委秘书长危拱之领导的孩子剧团,以河南大学学生马可为骨干的“怒吼歌咏队”,光明话剧团,来开封的著名文艺工作者贺绿汀、崔嵬、冼星海、张瑞芳等,都先后在古城开封演出宣传抗日。为了培养游击战争干部,杞县、考城、洧川等县分别建立青年农民救国会、抗日救国服务团、抗敌联合工作团等众多的救亡团体,推动了各县抗日救亡运动的深入开展。直至1938年6月,开封一直是中原地区抗日救亡运动的中心。中国共产党在开封的工作不仅掀起了抗战高潮,还为以后党在国统区的工作奠定了思想、组织和群众基础,对抗日战争乃至解放战争的胜利具有深远的影响。
1938年6月,继日军侵占兰封、杞县、通许、尉氏之后,开封沦陷。由于开封重要的战略地位,1939年春,日伪河南省机关由安阳迁至开封,在此设立军、警、特组织,建立各级伪政权机关,极力推行殖民地政策,开封遂成为日伪统治河南沦陷区的中心。为了组织和领导人民抗日斗争,从1942年起,十八集团军前方总部情报处开封情报站、冀鲁豫开封工委、八路军锄奸部开封工作站和水东地委开封城工小组相继组建。他们搜集日伪大量重要情报,开展统战敌伪工作,配合根据地军民的抗日斗争。日军侵占兰封、杞县、通许、尉氏之后,开封人民积极响应中共河南省委向全省发出的组织10万武装、开展游击战争的号召,各县相继组织抗日武装并不断发展壮大,先后创建了两块抗日根据地。一块是冀鲁豫抗日根据地的考城、兰封(陇海铁路以北)部分,1938年10月建立了冀鲁豫边区第一个抗日县政府——考城县抗日民主政府,领导着鲁西南边陲的抗日斗争,一直坚持到抗战胜利。另一块是睢杞太抗日根据地的杞县、通许、陈留、尉氏、洧川、兰封(陇海铁路以南)部分。1938年7月,以吴芝圃为司令的豫东抗日游击三支队在杞县傅集伊花园成立,不久与新四军先遣大队会师,睢(县)杞(县)太(康)地区初建抗日游击区。10月,又与彭雪枫为司令员的新四军游击支队会师于西华,并东进豫皖苏,两次会师于睢杞太地区。睢杞太地区,在陇海、平汉、津浦三大铁路线之间,位于开封、商丘、淮阳等战略要地的三角区域,是豫东平原的心腹地带。这块游击区的开辟,犹如一条纽带,把华北、华中两大抗日根据地联结起来,直接威胁着敌人在中原的军事重镇开封和交通干线陇海铁路。根据地军民以杞县为中心,在远离大块根据地依托的困难环境下坚持斗争,发展成为孤悬于敌后的抗日根据地,成为抗日根据地武装斗争的一面旗帜。1945年夏,以睢杞太抗日根据地为依托向西发展,还建立了水西抗日根据地,使抗日根据地发展成为以睢县、杞县、太康为中心,包括兰封、陈留、通许、民权等14个县地域、300多万人口巩固的根据地。
抗日根据地军民在极其严峻艰苦条件下,不屈不挠、坚持斗争,有5260余名中华儿女血洒水东,沈东平、马庆华、韩达生、唐克威4位特(地)委书记英勇牺牲,位于杞县的水东烈士陵园,真实记载了英勇悲壮的抗日烽火岁月。在根据地和沦陷区两个不同的战场上,英雄的开封人民同仇敌忾、英勇奋战、舍生忘死,进行了长期艰苦卓绝的斗争,使抗日民主根据地不断巩固和发展,使开封党和人民革命力量得到空前大发展,为中华民族的解放作出了不可磨灭的贡献。