在《隋唐演义》中，李勣成了“牛鼻子老道”徐茂公，变成诸葛亮、吴用一类羽扇纶巾，掐指运算的军师人物。“牛鼻子老道”，古代对道士讥讽的称呼。

不过，李勣能历仕唐初三代帝王，没有十分精明谨慎，善于审时度势智慧，恐怕是难以做到的。

李勣，本姓徐，名世勣，曹州离狐人，隋末徒居滑州。高宗时，为避太宗李世民讳，改为李勣。

徐家原本就富甲一方，据说“家多僮仆，积栗数千钟”， 李勣与其父徐盖都乐善好施，获得乡里好评。

李勣十七岁那年，见天下大乱，就参加了瓦岗寨的起义军。他劝瓦岗寨首领翟让，说：“附近是您与我的家乡，乡里乡亲，不宜侵扰，宋、郑两州地近御河，商旅众多，去那里劫掠官私钱物非常方便。”

翟让听从了他的意见，没过多久，就在运河上劫取了无数公私财物，有钱能使鬼推磨，瓦岗不久就壮大起来。

隋将张须陀亲率两万大军前来讨伐，翟让吓得差点尿裤子，李勣请命出战，仅需一会儿工夫就将张须陀斩下马，大败隋军。

李勣得知天下英雄李密兵败逃亡后，与王伯当一起劝说翟让“禅位”李密，以便扩大瓦岗寨的影响。

但是，李密取代翟让后，却处处防着李勣，“勣尝因宴会刺讥气短，密不怿，使世勣出镇黎阳，虽名委任，实亦疏之。”

当时，河南、山东一带发生水灾，由于朝廷赈灾不力，遍地饿殍。

李勣劝李密：“天下大乱，本是为饥。如果我们攻陷黎阳国仓，大事可成啊。”

李密听后，觉得有道理，随即派李勣率五千人渡黄河成功袭击黎阳仓隋朝守军，开仓济民，仅仅几天就有二十多万人参加瓦岗军。一年后，炀帝在江都被杀，越王杨侗在洛阳即位，大赦李密等人，还封李勣为右武侯大将军，让他们率军讨伐宇文化及。

不久，李密与王世充在洛阳决战，却遭惨败。李密本想投靠黎阳的李勣，有人劝他：“杀翟让之时，李勣被乱兵砍伤差点死掉，他能不记仇吗？现在投奔他，靠得住吗？”最后，李密与王伯当只好投奔当时在关中称帝的李渊。

此时李密的地盘全被李勣继承，面临人生的三个选择：割地称王；降唐；和其他军阀 。

但李勣却说：“魏公李密已归大唐，如果我自己上表向唐主献地，是自邀功劳而彰主公败绩，还是把土地人口军人数目造册，总启魏公，让魏公自献”。于是派使者前往长安传信。

李渊获讯后急忙召见李勣使者，却发现只有给李密的信，十分惊奇。使者只好一五一十地道明原委，没想到李渊听后反而大喜，认为李勣“感德推功，实纯臣也”，随即下诏封他为黎阳总管、莱国公，不久又封右武侯大将军，并赐国姓李。

不料，李密又叛唐，遭诛杀。而李勣却高调请求李渊网开一面，让他为李密收尸。李渊还能说什么呢。《旧唐书》称：“朝野义之。”

玄武门之变时，李世民十分想让李勣为自己卖命，当时很多人都认为李勣是李世民的得力干将，一定会站在秦王一边。玄武门前夜李世民力邀李勣共商大计时，没想到他却默不作声。

当然，以太宗的为人，还是重用李勣的。

贞观十五年，太宗任命李勣为兵部尚书，还未赴京上任，薛延陀部又犯大唐边境。朝廷委任李勣为朔州行军总管，仅率三千骑兵就将几万多人的薛延陀追赶至青山，并斩杀斩一名薛延陀王，俘虏五万多人。

班师回朝后，由于长期奔袭于高原，李勣突遇暴疾。太医开出一副药方，要用胡须灰做药引。太宗听闻，立即自剪胡须，为李勣和药。李勣听说后，十分感动。

不久，李勣又随太宗征伐高丽，攻破辽东、白崖等数城。大破薛延陀部，平定碛北。

太宗临终前，对太子说：“汝于李勣无恩，我现在把他责出外贬。我死后，你再以新皇名义授他仆射之职，受汝恩遇，李勣必致死力。”于是，下旨任命李密为叠州都督。

李勣也明白太宗的用意，毫无怨言地带着全家老小奔赴叠州上任。

果然，登基后的高宗，随即任命李勣为尚书左仆射。

尽管位极人臣，李勣为人还是十分小心谨慎，从没过问皇帝家事。

乾封元年（公元666年），高丽发生政变。盖苏文的一个儿子男生害怕受兄弟，投奔大唐，请求发兵相助。

高宗再次起用李勣，任命他为辽东道行军大总管，率军出征高丽。

李勣大军一路攻城拔寨，杀到平壤城下，盖苏文的另一个儿子男建屡次出兵迎战，都被打败。城内的一些人见风向不对，随即打开城门投降。男建自杀未遂。

唐军最终攻下平壤城，之后一路凯歌，共获一百七十六城，六十九万七千户。高丽至此重新回到华夏体系，大唐设安东都护府管辖高丽。

由于征伐劳累，加上年事已高，李勣回国后不久就病重去世，时年七十六岁。高宗下旨休朝七日，亲自主持葬礼，谥贞武，陪葬昭陵。

后来他的孙子徐敬业起兵反武后，兵败被诛，剥夺李姓，满门抄斩。李勣也被削一切官爵，刨坟斫棺，死后都不得安生！