一种说法是，在春秋战国时期，伯乐相马，得到宝马之后在这里练马，留下了遗迹。

    另一种说法是，汉朝王莽篡位，刘秀起兵造反，王莽想方设法捉拿刘秀。刘秀单人独骑，逃至北邙山上，已是人困马乏。刘秀站在山岭上，四下眺望，但见峰峦起伏，林木葱郁，一条小河（图河）缓缓东流，顿觉心旷神怡。他正陶醉在水光山色之中，忽听身后传来人喊马嘶之声，知道追兵又至，急忙顺着羊肠小道向前奔逃。

    突然一道深沟拦住去路，他想起了救苦救难的观世音菩萨，于是双手合十仰天喊道：“大慈大悲的观世音菩萨，救救弟子吧！”话音刚落，从天边飞来一朵红云，稳稳地飘落在邙山上，云中莲花台上端坐着观世音菩萨。刘秀又惊又喜，跪下便拜。当他抬起头时，发现自己已置身沟底，不见了观世音菩萨。

    正在沟底策马犁地的农夫一犁下去，把刘秀埋在了犁沟的虚土里。刘秀的坐骑也真神奇，忽然与老农的马并排站定，微闭双目，将蹄子轻轻点在掩埋刘秀的虚土上，好像休息一样。

    这时岭上尘土飞扬，一队人马直冲过来，王莽领兵追到了这里。沟上盘旋着一只老鹰，对王莽扯着嗓子叫道：“犁沟里！犁沟里！”王莽正要搜查，天上又飞来一只老鸹叫道：“瞎话! 瞎话！”王莽看看沟里只有农夫在犁地，于是向远方追去。

    刘秀从虚土中爬出来，农夫问：“你是谁？”刘秀回答：“我是刘秀，王莽的人马正追我，我已跑了三天三夜，人饥马饿。”

    老农的妻子来给丈夫送饭，把一罐麦仁汤给刘秀喝。刘秀觉得麦仁汤非常可口，一口气喝了个精光。刘秀谢过两位老人，骑上马向黄河方向奔去。

    后来，刘秀得了天下，想起那两位老人，来到自己被埋的深沟，看到沟深壁直，道路不通，就让手下在那里筑了一座土桥。当地人把土桥叫马蹄桥，把那道深沟叫刘秀沟，简称刘沟。