中岳嵩山是中国神话的策源地和发祥地，可以追溯到“盘古开天”、“女娲补天”和伏羲得河图、洛书等。《搜神记·刘根》和《后汉书》记载：颍川道人刘根入嵩山修道，遇到神仙，授予秘诀成仙。道人左慈也修炼在嵩山，据说能占星，有神通，通五经六甲，并有驱神使鬼之术。曹操把他召到魏都许昌，锁于室内，派人把守，不许他吃饭。但几天过去了，左慈神情依旧。曹操认为左慈利用了左门旁道，准备杀掉他。没想到左慈提前逃到嵩山南麓的箕山，变成一只羊躲在牧羊人的羊群里，使追杀者不能分辨出羊的真假。西晋时，南海太守鲍靓弃官修道来到嵩山，有一天发现石壁上出现了天然的文字，于是便记录下来，后来被编成了《太上洞神经》。为后来寇谦之改革道教并发展道教奠定了基础。《中岳嵩高灵庙碑》中说：“夫中岳者，盖地理土官之宫府，而上灵之所游集，四通五达之都会也。”并说：嵩山“崇峻而神奥”是“作镇后土，配天承化，总领四旅”的社稷之神。

　　嵩山道教活动的主要场所就是中岳庙，其原名“太室祠”，即祭祀太室山神的一座祠堂。公元435年，北魏太武帝太延元年，太武帝命人在嵩山峻极峰敕建庙宇，立神像。这是最初的中岳山神庙。到北魏文成帝太安年间，即公元455～459年，将峻极峰上的中岳山神之庙迁址到原“太室祠”的位置，即黄盖峰于太室阙之间，取名中岳庙。

　　中岳庙是古代祠庙建筑空间处理的优秀典范。依山就势，利用山坡的倾斜，由南向北逐层增高，左右对称，结构方正，气势宏伟。既严肃整洁，又井井有条，与统治者的宫殿结构相似，又独具敬仰神仙的特色，而且，最为突出的特点，是以所供奉神仙的神阶地位来确定殿宇的规格、结构、方位、大小及环围装饰。玉皇大帝是道教中执掌天庭的最高神，位居中央大殿，岳神为帝君，殿宇规模也相当宏伟，正殿均为黄色玻璃瓦顶，红墙、黄瓦相同，却分殿、寝、堂、阁、宇、门、亭不同的格调，高下、尊卑等级森严。同时，又充分体现道学家的哲学思想，讲究阴阳五行及天人感应，即法天、法地、法道、法自然。以自然的规律为依据，以八卦的方位定角度，以子午线为中轴，坐北向南，日东日西，坎离对称。木、火、金、水分居四方，与中央土相配。又按一阴二阳之理，开有三座门洞，以示三界。进入化山门，跳出三界外，身得五行，方为真正出家之人。同时，整个建筑群落又体现着儒家典型的礼制思想。除中岳庙之外，道教活动的另一重要场所就是汉武帝元封元年在万岁峰下敕建的万岁观，寇谦之曾栖身、传教于此。

　　这一时期，嵩山佛教发展的里程碑式的标志就是少林寺的创建和会善寺、嵩岳寺的兴建。

　　中国佛教从开始就融合了中国固有的祭祀祖宗及天地的礼教人文因素，采用对称风格，按中轴线布置，结构严谨，气势磅礴。而以寺院前或中心造佛塔为标志。寺前有廊庑环绕，正中线前后为殿堂，旁为僧人居住院落。少林寺虽为跋陀所建，但因菩提达摩在此创立了“禅宗”，便更体现了“禅”的“伽蓝七殿制”，即佛殿法堂、僧房、库房、山门、西净、浴室等。佛殿就是大雄宝殿，是整座寺院的核心建筑，也是僧众朝暮集中修持的地方。殿内正中供奉佛祖释迦牟尼，为现世佛；左侧供有过去佛，或称前世佛——东方净琉璃世界的药师佛；右侧是未来世佛，即西方极乐世界的阿弥陀佛。殿内东西山墙悬壁而立的是十八罗汉，屏后悬壁的是观世音菩萨。法堂位于大雄宝殿后面，为高僧讲经说法之处，内供佛祖。在法堂之后的最后一座大殿为千佛殿，殿内绘有大型壁画“五百罗汉朝毗卢”，形象生动，为世所罕见。僧房、库房为僧人生活居住及食用器物的库存之所。西净是现在的卫生间。浴室是佛家最为讲究的地方，沐浴斋戒是朝拜之礼的首要之行，凡上殿先沐浴，是对佛祖的尊敬。山门则是整座寺院的大门，既是坐落朝向的标志，又是建筑群落的眼睛，更代表着寺院的规格气势。少林寺山门面洞三间，为单檐式歇山顶建筑，左右配以硬山式侧门和“八字”外开墙，进入山门，迎面便是笑佛弥勒。笑容、笑姿、笑意，耐人寻味。

　　从“普光堂”向东是“塔院”。建有安葬跋陀的“遗身定塔”，为木质结构，后被兵乱战火所焚。

　　“塔院”向东，即下方，为东方建筑，多为殿堂僧房等参禅、作课的僧侣活动建筑。

　　少林寺的北界在五乳峰脚下的山根处，南界即山门前的少溪河。所以，古有“深山藏古寺，碧溪锁少林”之说。

　　嵩岳寺原本是宣武帝所建的离宫，是标准的宫殿式建筑，后捐作佛寺。建有凤阳殿 、八极殿无量寿殿等。明帝时赐名闲居寺，“广大佛刹，殚极国财”僧众超过七百人。堂宇一千余间，建有十五层宝塔，东有七佛殿，西有定光佛堂，寺院最后有逍遥台。据《纲目》所载，永平二年冬十一月，魏主宣武帝亲讲佛经到此。于是称永明闲居寺。沙门自西域来者三千余人，又另建永明寺一千余间于近旁，极岩壑土木之美，远近承风，无不佞佛。明帝孝昌元年，胡太后削发出家，修道于闲居寺。大臣冯亮为宣武帝建造闲居寺后，自己也辞官在闲居寺附近建道场寺，隐居修炼其中，直到圆寂。

　　这一时期，与少林寺、嵩岳寺齐名，合称嵩山“三大佛刹”的另一座寺院，是建于北魏孝文帝时期的离宫，后改作佛寺，也曾叫闲居寺，后隋文帝赐名为“会善寺”。为澄觉禅师精心修炼之所，殿堂千余间，十分豪华壮丽。

    另外，就是大德生禅师在嵩山显要之处建造的“嵩阳寺”。禅师将“欲接引四生，卜兹福地，创立神场”。于太和八年岁次甲子，背依嵩峰，南临广陌，西带浚涧，东接修林处，创造伽蓝，筑立塔殿。计划造干善灵塔25层，仅建了7层，后由门徒统伦和僧艳二位僧人完成，同时，又各建一座7层佛塔。截止到南北朝时期，尽管宗教文化经历了无数次的碰撞的历炼，时起时落，但基本上趋于定型，并相对稳定。尤其佛教，真可谓“盛寺如林，高僧如云”。