晋文公护送周襄王回去，接收了四座城回来以后，宋成公[宋襄公的儿子]打发公孙固跑到晋国来请救兵，说是楚国派成得臣带着陈、蔡、郑、许四国诸侯来攻打宋国。晋文公召集大臣们商量怎么办。将军先轸说：“楚是蛮族，老欺负中原。主公打算帮助中原诸侯，做个霸主，这可是时候了。”狐偃说：“曹国和卫国本来跟咱们有仇，新近又归附了楚国，咱们只要去征伐他们，楚国一定去救，宋国的围也能解了。”晋文公就答应公孙固的要求，叫他先回去，晋国的兵马随后就到。
晋文公一早就看出要作中原霸主就得打败楚国，可是单靠晋国原来这点兵力是不够的。他把这个意思告诉了大家伙儿。赵衰出个主意，说：“依照厉来的规矩，大国能有三个军，中等国两个军，小国一个军。先君武公开始建立了一个军。献公扩充到两个军，合并了虞、虢等十多个小国，添了一千几百里土地。到现在难道晋国还不能算大国吗？咱们早就该有三个军了。”晋文公就扩充军队，很快地编成了上中下三个军。拜郤縠[hu二声]为中军大将，郤溱为中军副将；狐毛为上军大将，狐偃为上军副将；栾枝为下军大将，先轸为下军副将；赵衰、荀林父、魏犨等各有各的职位和官衔。队伍整齐，士气高涨。三军人马浩浩荡荡，杀奔曹国而来。
他们虽说是去攻打曹国，可先向卫国借个道，说是要去征伐曹国。卫国的大夫元咺[xuan一声]对卫成公[卫文公燬的儿子]说：“先前晋公子重耳逃难到这儿，先君[指卫文公燬]不准他进城，已经结下了冤仇。如果这回再不借道，恐怕这冤仇越结越深。依我说，还是答应的好！”卫成公说：“咱们已经跟曹国一同归附了楚国，要是咱们借道给晋国，让他们去打曹国，这不是窝里反吗？咱们不答应晋国，还有楚国帮咱们，要是得罪了楚国，那可叫咱们去依靠谁呐？”他就不答应晋国的要求。
晋文公一听卫国不借道，气上加气，就叫郤縠带领大队人马绕到南边渡过黄河先打卫国。他们到了五鹿城外那个地方，晋文公瞧见那棵大树，不由得触景生情，叹了一口气，说：“唉，这儿正是介子推大腿上割肉的地方！”说着掉下眼泪来，旁边的将士也觉得鼻子酸溜溜的。魏犨可没有那么些眼泪，他大声嚷嚷地说：“别唉声叹气了！大丈夫有仇报仇，有怨报怨，先打进城，才是道理！”先轸也说：“对呀！咱们动手吧！”晋文公点了点头。