百里奚早年的时候，家境极其贫寒，过了三十好几，才娶了老婆。他老婆知道他才学过人，就鼓励他外出发展，对他说：“好男儿志在四方，你现在正值壮年，不能坐在家里饿死。”
游历了许多地方，没人肯聘用他，一无所成，就只好沿街乞讨为生，不知不觉，流落到了宋国的铚城。
铚城有一位隐士，名叫蹇叔。蹇叔一见到他的相貌时，吃了一惊，就上前问道，我看你鼻孔朝天，定无隔夜之粮，但地阔方圆，且又天生一幅奇容异相，终究还是富贵之人，你姓甚名谁？如何却在这里？
百里奚便说，我本是虞国人，并非乞丐也，外出求职，竟困顿如此。
蹇叔就留他吃了晚饭，又与他谈论时事，百里奚对答侃侃如流，指画井井有叙。蹇叔叹曰：“以你的才能，竟然穷成了这个样子，哎，命也！”
于是，二人结为兄弟。这时百里奚已经四十岁矣，蹇叔大他一岁，所以蹇叔为兄，暂且安排他在村中帮人养牛，解决了他的生活费。
不久，蹇叔的一个朋友来说，他认识一位威震四方的大人物，乃是齐国君主，姜诸儿（齐襄公）。可以引荐他们去齐国做官，何愁富贵不至？
于是，蹇叔就和百里奚来到了齐国。
但姜诸儿不在宫中，到贝邱山打猎去了。一等就是三个月，却等来了姜诸儿的死讯，姜诸儿被他的堂兄弟公孙无知暗杀了。
公孙无知篡夺了君位，悬榜招贤，网罗人才，并不计较出身。百里奚得知消息后，跃跃欲试，就要前往应招。
蹇叔劝阻道：“兄弟，你不能去，公孙无知这样夺位，必定不能长久。”
果然，公孙无知刚一登基，就被人砍死了，鸡飞蛋打一场空，成为“齐废公”。百里奚很失望，富贵擦肩而过。
又养了几年牛后，听说天子的弟弟王子颓非常喜欢养宠物牛，他的数百头牛，都穿着绣花衣服，吃着上等谷物，尊为“文兽”。而善于养牛的人，也都在他那里发财。
百里奚得到这个消息说，老哥，这回咱真要富贵了，我打算去王子那里面试。
蹇叔说好吧，你先去，不过，为兄送你一句话，你需谨记于心：
“大丈夫不可轻易失身于人，凡事也不必急于求成。如果他真的用你，你也要先考察他。否则你冒然跟随了他，万一发现他不行，那你离开他，就是不忠，跟他一起共患难，则又不智了。
“所以，老弟，择人务必慎之又慎！你若拿不定主意时，稍等几天，我家中事一料理好，就亲自过来，等我看看王子的相再说。”
百里奚来到王子府上。门卫拦住他问：“汝是何人？”答曰：“百里奚”。又问：“职业？”答曰：“牛人”。
一听说来了个善于养牛的人，马上待为上宾，很容易就见到了王子。百里奚以饲牛之术觐见，夸夸而谈，海阔天空。王子颓大喜，准备留下他，封他做个家臣。