牟山在郑州市中牟县县城北面。东汉献帝建安五年，即公元200年，曹操和袁绍在此处进行官渡之战时，双方修筑了庞大高耸的土山，也就是这些在战争中修筑的防御工事的遗存，被后人称为“牟山”，这个名字被一直沿袭了下来。明朝正德十年（即公元1516年）的《中牟县志·山川》中说：“牟山，在县治北五里，高十余丈，延数十里，上建牟山庙，县之得名于此。”这是史籍记载的对“牟山”的最早称谓。不过，“县之得名于此”却是谬传，事实上，不是县之得名于牟山，而是牟山得名于县。清朝的《中牟县志》中还记载说：“牟山，……上建牟山庙。产麻黄草。”可见，当年的牟山是草木茂盛之地，上面还盛产中药——麻黄。抗日战争以前，当地老百姓把牟山称为“老冢”，大概是牟山上曾经有过古墓的缘故。

    昔日，在牟山尚未被黄河水冲毁的时候，每年的农历正月十六，中牟县城及其附近的人们，都习惯于在这一天上牟山寻春游玩。当时，在中牟民间还广泛流传着这样的民谣：“正月十六上老冢（指牟山），上过老冢腰不痛。”所以，正月十六这天，附近的老百姓都放下手头所有的活计，纷纷涌到牟山，尽兴畅游，无比愉悦。据说，那时的牟山上面有几条弯弯曲曲的小路，附近是凸凹不平的地形，路两边草木繁茂，茵陈、茅叶、野韭菜等长得郁郁葱葱，翠绿可爱，在山顶向下看，可以看到很远的地方。牟山的面积约有40亩地那样大。

    1938年，牟山的山顶上修建有碉堡和战壕，碉堡是用附近百姓家的树木和门板筑成的。当时，牟山已经被黄河水冲毁一半了。1938年的6月9日，国民党军队奉蒋介石之命决开了郑州花园口黄河大堤，试图以黄河水阻挡日本侵略者。结果，黄河水没有阻挡住日本侵略者的铁蹄，仅仅两天的时间，黄河水就吞没了大半个中牟县，大水所到之处，田园尽没，人畜丧命。在巨大的洪水中，屹立了千年的牟山也无法幸免于难，面临着灭顶之灾。1940年夏天，洪水不仅没有减退之势，反而越来越大，将牟山又冲刷了一遍。1941年，洪水的主流转移到了县城北部，当年秋天，洪峰再次涌起，牟山山脚很快被洪水冲垮，轰然倒塌，成为了一堆黄土，在茫茫洪水的涨落之中荡然无存了。

    牟山上曾经有过的牟山庙又被称为“名山庙”，后来又演变为“明山庙”，如今，中牟县城北面的明山庙村，就是因其而得名的。