很久以前，山阳城一带战乱不断，老百姓们命遭涂炭，当时有一位清官决定拨款并发动当地老百姓们筑造城墙。可是城墙没垒多高就塌了，人们为此犯了大愁。

    这时，村（今墙南村）里有俩结义兄弟，二人对经商很有一套。一天，老大提出一个问题：“咱二人确实是赚了不少钱，可这不都是赚大家的血汗钱吗！我们是不是……”老二听后顿悟：“太好了!咱俩做一桩赔本买卖，中不中？”老大点了点头，随即又说：“那做啥买卖最赔本呢？”听说咱老家修城墙，可垒得一高就塌了。不如咱去山西买点好土运回。这么远的路程运回来肯定能赔钱，你说中不中?”老二听后大喜，二人立刻带上积蓄便上路了。

    到了山西，二人向一个大商人问道：“老哥，你们这里的土卖不卖？”商人看了他俩半天，骂道：“神经病！”二人听后也不生气，转身又见一羊倌在放羊，便问：“老弟，你这里的土卖不卖？我们想买些土回去修城墙。”羊倌看这二人说话和气，不像是开玩笑，就问：“你给几钱一担？”老大说：“三文一担中不中？”羊倌高兴的说：“你要多少担？”老二说：“你再去卖些羊，每只羊再给你三两银子，每只羊身上驮两筐土，有多少算多少，中不中?”羊倌一听更是高兴。就这样，二人赶着一大群驮土的羊返回故里。

    谁知这时，家乡的官民们正请了个算卦先生卜卦。算卦先生眯着眼儿掐指一算：“金木水火土，阴阳八卦推。此地为阳，必须有山西那方的阴土相掺和才能垒成。否则，这墙垒多少塌多少！我断定三日之内定有人送阴土过来，无论如何你们一定要买下！”县令修城心切，特批二百两银子用来买好土。这时正遇兄弟二人赶着羊群过来，人们看着羊身上驮着装满好土的柳筐，就上前询问：“此土为何方之土？卖不卖？”二人答：“山西土，不卖。”县令和众人一听急了，说：“我们真心想买，不管多少钱都行。”二兄弟坚持不卖，要无偿捐献修城墙，大家听后万分高兴。县令怕不给钱白要这土不灵，末了还是决定用二百两银子买下。双方互相推让不下，最后县令和百姓们才把卜卦的事对他俩又细说了一遍，兄弟二人听罢理由，突然哈哈大笑起来：“天意！天意！这辈子赔本的买卖我们是做不成了。”笑完后二人突然猝死。

    后来，他们的家人发现二人口袋中的遗书上均写明：“将这土和群羊无偿捐献修筑城墙，不要县衙一两银子。”官民们为这二人的慷慨之举深深感动，众志成城，不久就修筑好了城墙。为纪念二人从山西赶着山羊驮运阴土的功劳，人们就把这座城叫做“山羊城”。东汉末年，汉献帝被贬到此，看到太行山北为阴，南为阳，就把“山羊城”写成了“山阳城”，“山阳城”的名字便从此沿用了下来。