重耳回国后，对于跟随自己逃亡的人以及立下功绩的人根据功劳的大小予以奖赏。隐居起来的介子推不求俸禄，所以重耳也就没有给他。
介子推在家里对母亲说：“君主归国即位，实际上是上苍的福佑，而那几个跟随君主的人把功劳归为自己，这不明明是欺骗吗？窃取别人钱财的，尚且被称为盗贼，更不用说贪天之功据为己有了！做臣子的虚报功劳，做君主的赏赐奸佞，上下相互欺骗，我和这些人实难共处啊！”
介子推的母亲说：“你为什么不也去要求赏赐呢？白白死掉，又去埋怨谁？”
介子推说：“如果明知错误，却还去效仿他们，那么罪过更大呀！再说，既然已经说出了怨恨的话，就决不会再享受他的俸禄。”母亲又劝介子推去说明真相，介子推答道：“语言是修饰表现自身的，连自身都要归隐了，何必再去修饰表现呢？如果再去修饰表现一下，就无异于希求显达了。”于是，母子二人一同归隐，至死再也没有露面。
介子推的随从可怜他，就在宫门上悬挂一张条幅，上写：“龙要上天，五条蛇辅佐；龙已上天，四条蛇各得其所；一条蛇独受冷落，不是他的过错。”文公出门，看见了条幅，叹气道：“这说的是介子推呀！我一直忧虑王室的事，忘了给他行赏。”于是派人到处去找介子推，也没有找到。后来文公听说他躲進绵上山中，就把环绕绵上山的土地封给介子推，称之为“介山”，并说要“以记吾过，且旌善人。”
随从重耳流亡的小臣壶叔说：“君王您三次行赏，都没有我的份，请问我犯了什么错？”文公回答：“凡是用仁义来引导我，用道德来规范我的，都应该受到上等的赏赐；凡是用善行来辅佐我，使我成就大业的，都应受到次等的赏赐；凡是冲锋陷阵，建立汗马功劳的，都应当受到再次等的赏赐。如果只能靠力气侍奉我，却无法补救我的过失，那么只能受到更次等的赏赐。所以三次赏赐以后，才能轮到你。”晋国人听到文公的话，都很感欣慰。