此后，窦建德以李盖为质，令李世勣镇守黎阳。

李世勣帮助窦建德击败王世充部后，取得了窦建德的信任。

李世勣遂建议窦建德亲征河南，想要借机将其杀死。

武德三年，李世勣与魏郡李文相结拜，在入拜李文相之母霍氏时，听闻霍氏哭诉窦建德无道，其妻弟曹旦侵扰河南时，宽慰她说一个月后必将杀掉窦建德和曹旦，然后带霍氏等归顺唐朝。

由于被妻子产子所误，窦建德迟迟没有启程前往河南，李世勣图杀他的计划也无法实施。

霍氏本善骑射，又恐事久生变，便令儿子李文相在宴饮时设伏兵杀掉曹旦的偏裨二十三人，然后举兵起事。

而李世勣因计划泄露，又无力对抗曹旦，与旧部郭孝恪带领几十名骑兵归降唐朝。

武德三年，晋阳军阀刘武周势力威逼关中，与唐对峙，刘武周麾下将领宋金刚进攻浩州时被唐军打败，向北逃亡。

李世勣在秦王李世民的带领下，追击宋金刚于雀鼠谷，一日八战八胜，斩获数万敌军。

同年，李世勣跟随李世民进逼洛阳，讨伐郑国王世充，奉命接管了管州，并在之后击退了郑国太子王玄应，劝降了郑国荥州刺史魏陆。

武德四年，李世勣暗中策应，接受郑州司兵沈悦投降，占领了虎牢关，俘获了郑国荆王王行本。

窦建德应王世充请求增援郑国军，因轻敌败于虎牢关，窦建德被俘，王世充也在此后被杀。

武德四年十二月，窦建德旧部刘黑闼联合东突厥再次起兵，李世勣跟随李世民讨伐。

在刘黑闼进逼宗城时，屯守在此的李世勣遭遇惨败，只身逃往洺州。

武德五年三月，李世勣与刘黑闼部将高雅贤在洺水遭遇，李世勣引兵逼营，高雅贤因酒醉单枪匹马追击李世勣，被李世勣部将刺死。

同年七月，李世民鉴于局势初定回朝后，李世勣则被留下来继续讨伐与刘黑闼联兵作乱的鲁王徐圆朗。

最终，李世勣擒杀徐圆朗，平定了兖州。

武德七年，李世勣受命随赵郡王李孝恭和大将李靖一同征讨位于江淮的辅公祏起义军。

期间，他率领一万步骑兵渡过淮河，攻克了敌方的寿阳城，进抵硖石，接连攻破驻守长江西岸的陆路敌军以及用铁链锁船的三万水兵，在辅公祏闻讯东逃时，又趁乘胜追击，平定了江南。

“隋朝灭亡后，和亲东突厥的义成公主仍为可汗的可贺敦，颉利可汗即位后，受到隋朝势力鼓动，多次南下伐唐。”

“其扶植的攻唐势力刘黑闼被唐朝消灭后，颉利可汗又于武德八年亲率大军入侵，一路攻掠至并州，被唐廷分四路出击败退。”

“此战期间，李世勣为行军总管，而他率领的军队也在太谷击退了突厥入侵。”

“武德九年，李世民即位，李世勣被封为并州都督，为避李世民名讳，进而改名为李勣。”

“同年，东突厥攻至距长安仅40里的泾阳，然此时长安兵力不过数万，唐太宗李世民设疑兵之计，与东突厥定下渭水之盟，双方暂时讲和。”

“此后，东突厥汗国接连发生旱灾、雪灾和霜灾，造成空前的大饥荒，国力削弱。”

“贞观三年，因与颉利可汗生隙，突利可汗脱离东突厥汗国归附唐朝，李世民也决定对东突厥发起进攻。”

“李勣被授为通漠道行军大总管，接受李靖的统帅，和诸将一起分道出击东突厥军。”

“贞观四年，李勣在云中与东突厥的頡利可汗军队遭遇，激战后取胜。”

“颉利可汗因不敌各路唐军来袭，向唐廷求和。”

“李勣鉴于东突厥势力尚存，且又喜叛服无常，提议派军跟在前去议和的唐使唐俭等人马之后，趁东突厥放松警惕，一举扫平。”

“李靖认同他的提议，率军悄悄抵达东突厥驻扎处。”

“颉利可汗欲逃走时被李勣阻击，之后被唐军所俘，而突厥大酋长也率部五万余向李勣投降。”

“此战过后，唐朝解除了来自北方最严重的威胁，四夷来朝，唐太宗被尊为天可汗。”