公元前655年，秦晋两家成为友好邦邻，晋献公把女儿嫁到秦国，百里奚被作为陪嫁奴仆一同前往。直到这时，百里奚才如梦方醒：自己的一腔报国情，竟换来奇耻大辱！于是，在迎亲途中，他乘人不备逃走了，本来是想逃到宋国的，因道路受阻，只好逃到楚国。为了谋生，在楚国，他为人养牛。同样是养牛，他养的牛膘肥体壮，拉起犁来毫不费力。这件事被楚王知道了，便招来百里奚问曰“饲牛有道乎？”百里奚对曰“时其时，恤其力，心与牛而为一。”楚王曰：“善哉，子之言！非独牛也，可通于马。”就让百里奚为其养马。

    秦穆公是个贤明的国君，听说百里奚“心与牛而为一”这条饲牛之道，直觉是个人才，避免楚成王怀疑，就用五张羊皮把百里溪从楚国赎回来。百里奚从楚国之后，秦穆公看到百里奚满头白发，便问：“年几何？”百里奚答曰“才七十岁。”秦穆公叹曰“惜乎老也！”百里奚对曰：“使奚逐飞鸟，博猛兽，则臣已老。若使臣坐而策国事，臣尚少也。昔吕尚年八十，钓与渭滨，文王载之以归，拜为尚父，卒定周鼎。臣今日遇君，较吕尚不更早十年乎？”。秦穆公听完之后，便与百里奚谈有关治国的方略，与邻边国家的外交关系等等，谈话结束，秦穆公就拜百里奚为上大夫（上卿），并打算把秦国的军政大全都交给了他。但百里奚坚辞不受，而是把自己的好友蹇叔推荐给秦穆公：曰：“臣之才，不如臣友蹇叔十倍。君欲治国家，请任蹇叔而臣佐之。秦穆公曰：”子之才，寡人见之真也，未闻蹇叔之贤也。“奚对曰：”蹇叔之贤，岂惟君未之闻，虽齐宋之人，亦莫之闻也。然而臣独知之。臣尚出游于秦，欲委贽于公子无知，蹇叔止臣曰：不可。臣因去齐，得脱无知之祸。嗣游于周，欲委贽于王子颓，蹇叔复止臣曰：不可。臣复去周，得脱子颓之祸。后臣归虞，欲委贽于虞公，蹇叔又止臣曰：不可。臣时贫甚，利其爵禄，姑且留事，遂为晋俘。夫再用其言，以脱于祸，一不用其言，几至杀身，此其智性于中人远矣。今隐于宋之鸣鹿村，宜速招之。”（见东周列国志）。在百里溪的举荐下，秦穆公终于同意让他和蹇叔一道做秦国的上大夫。因百里奚是秦穆公用五张黑公羊皮换回来的，故世人称百里奚为“五羊大夫”。

    自百里奚始，“心与牛一”就是历代统治艺术的一条基本追求而被广泛接受，即以己度人、推己及人，设身处地、同情体谅，并以此构建融洽和谐的理想社会。后来孔子的“仁者爱人”以及今天我们的“情为民所系，权为民所用，利为民所谋”等都是这种观念的发展与演化，这是一种体恤关爱的教化，而不是讨价还价的谈判，更不是尔虞我诈的“博弈”，而是一种“心与民一”、“其乐融融”的和谐场景。

    从后来百里奚在秦国的作为来看，他的确实践了这种政治主张。他给秦国带去的不是残酷的征战杀伐，不是苛刻的政治高压，而是“心与牛一”的仁厚宽容的治国之道。在他的辅佐下，秦穆公三立晋君、称霸诸侯，并征服西戎、拓地千里，为后来秦国一统天下奠定了基础。