相传很久很久以前，祖师庙还是个无名的小镇子，镇子上也就住了二十来户人家。在离镇子约模3里路的地方，有一座小山，山上有一块巨石，巨石状如水牛，因此人们便把这座小山叫做金牛山。更奇怪的是，每到夜晚，附近的人们总能听到山上时不时传来水牛 “口牛口牛”的叫声。这一年，小镇上来了一位打铁的老人。老人从哪里来，又到哪里去？大家都不知道。大家只见老人住下了，打铁的手艺很好，锹、锄、犁、耙，经他打出来的农具，用起来样样顺手。打铁的老人为人和气，对人慈善，邻里间有求他帮忙的，他绝不推辞，因此大家和他的关系极好，也都很尊重他。

　　老人在镇上打铁打了许多年，原先还在地下跑着玩的小孩子长大了，一些人也慢慢老了，但是却看不到打铁老人有衰老的样子，大家依然叫他老爷爷。这一年，老人收了一个徒弟，徒弟很年青，也就刚刚二十岁。有一天，打铁老人把徒弟叫到面前，说：“我很快就要走了，打铁是门为大家出力的手艺，你一定要好好学，不要把手艺丢了。”老人还说，这个镇子也是个好地方，你也不要走了，就在这个地方住下去，靠两只手劳动，也就不愁吃穿。

　　过了一阵子，镇上的人觉得有几天没有见到打铁的老人了，就问他的徒弟说：你师父呢，怎么这几天没见到他了？老人的徒弟说，师父走了，还把临走前对他说的话给大家学了一遍。大家觉得很奇怪，老人怎么会突然走了呢？再问小徒弟，小徒弟也说不清，只是说听师父讲过他姓李，是到这个山里来找牛的。

　　打铁老人走了之后，附近的乡民们每晚再也听不到山上有牛“口牛口牛”的叫声了，人们都说，这是打铁老人把他的牛带走了。再后来，又有人传说，打铁老人就是铁匠祖师李老君，李老君找到了他的牛，自然也就走了。为了证实这个传说，乡民们便到山上看，找痕迹，果真还在山石上找到了一趟牛蹄印。

　　后来，人们为了纪念李老君，就在小镇边建了一座庙堂，小镇也便起名叫祖师庙。而且在此以后，祖师庙附近的山地，果然应验了李老君的话，天再旱，这里不缺水，总有山水灌田，下再大的雨，这里也不会淹，洪水总能顺着小溪排出，这里是一片水旱不受灾，保丰收的风水宝地。