李大亮出生于开皇六年，由于出生在官宦世家，自幼受到良好的教育，加上聪明好学，因此文韬武略俱佳。

大隋末年，李大亮在庞玉的行营出任兵曹。当时瓦岗军李密进攻东都洛阳，路途中击败庞玉的军队，将李大亮俘虏俘。而李密账下的大将张弼见到被俘的李大亮后，当即被他身上的勇武之气所吸引，两人言谈之中就结为至交，于是张弼在夜里将李大亮偷偷放走。

归附李唐后，李大亮最初担任土门县县令。一年，当地发生严重旱灾，田里庄稼颗粒无收，不少人为了活命做起了盗贼，因此百姓纷纷逃荒，这样一来，无人种地，土地就更加荒芜，如此恶性循环，来年注定更没有收成。

在这样的情况下，李大亮当即将坐骑卖了，换来粮食种子，并积极劝说乡民耕种田地。在他的努力下，乡民们逐渐返回耕作，第二年果然庄稼大丰收。不仅如此，他他还派人缉拿盗贼，有效地整治了当地的治安。当秦王李世民巡抚北部边境听到这件事后，当即对他大加赞赏，多有赏赐。

由于李大亮为天下百姓而为官，因此颇受帝王重用，后来他官至尚书，富贵显达，还常常感念张弼当年的救命之恩，一心想要报答他，于是派人四处打听张弼的下落。而张弼认为自己与他的交情不必做这等偿还恩情的事情，于是一直回避和李大亮相见。

只是上天成人之美，终于有一天，李大亮与张弼在路途中偶遇，他紧紧地握著张弼的手，感慨万千。李大亮不由分说，直接将张弼请到家中，声称当年没有张弼不惜性命的救下自己，他早就死了，哪里有今日的成就，于是要将自己全部的财产都送给张弼，以回报他昔日的恩德。张弼当年与他意气相投，当然不肯接受，因此坚持拒绝李大亮的好意。

就这样相互退让多次，李大亮没有办法，只能上奏唐太宗，希望唐太宗能够帮助他解决这个难题。他对唐太宗说：“臣今日能够侍奉陛下作为，为国尽忠效力，这些都是张弼的功劳，正因为他当年救下臣的性命，才有了臣的今天。因此臣愿意将自己的官爵转交给他。”

救命之恩要这样偿还，可见李大亮是真心想要报恩的，唐太宗听后十分感动，于是就授予张弼代州都督。正因如此，后世敬重李大亮的知恩图报，也感慨张弼有功不居，不炫耀自己。