宋老生率大军追击李渊，霍邑具城内只有两千守军，这两千守军大部分都驻防在北城，这是防御李渊北下之军，而霍邑县紧靠大山，没有西门，东城门和南城门都只有少量军队。

戍卫南城门的守军只有不足两百人，大部分都在城墙上，只有十几名士兵蹲在城门边，城门已经关闭，十几名士兵无所事事。

这时，城门奔来一队隋军士兵，约百人左右，个个身材魁梧，步履矫健，顶盔贯甲，手执长矛巨盾，腰挎横刀，后背引箭。

为首之人正是霍邑县县尉赵忪，他手执一支令箭，厉声道：“我奉宋将军之命接管南城防务，请你们撤离！”

十几名士兵都惊惶起身，一名火长向城头喊道：“校尉！”

城头一名军官探头问：“什么事？”

他看了一眼这百名全身盔甲的士兵，疑惑地问赵忪：“赵县尉，你们这是有什么事吗？”

赵忪将令箭举起，高声道：“奉宋将军之命，由县衙来接管南城防卫，你们可回营待命。”

守城军官看了一眼他手中令箭，没有丝毫怀疑，一挥手道：“弟兄们，回去睡觉休息去。”

两百名士兵纷纷从城上下来，有的打着哈欠，懒精元神地列队，向城内军营而去，赵忪一挥手，五十名士兵奔上城头，另外五十名士兵则守在城门边。

李世民率三千人已经从霍山小路绕到南城外，他们躲在离城门两里外的一片树林内，他目光紧紧盯住城门，约定的时间已经啊了，忽然，城头上闪过一阵阵刺眼的亮光，这是铜镜在阳光下闪光，他们得手了，只见吊桥开始缓缓放下，城门开启，李世民大喜，大喝一声，“杀进城去！”

三千人从森林内冲出，向城门疾奔而去，李世民一马当先，率先冲进了霍邑城。

宋老生率军追出不到十里，便有士兵惊骇大喊：“宋将军，霍邑县城楼！”

宋老生一回头，只见北城城楼火光冲天，浓烟滚滚，他大吃一惊，立刻意识到自己上当了，大喊道：“回城！立刻回城！”

两万隋军调头向城池奔去，这时李渊亲率八万大军赶到，挥兵掩杀而来，宋老生见军队已无法入城，不由大怒，喝令道：“三军列队，和叛军决一死战！”

宋老生率军向李渊军队杀去，两支军队在霍邑县北面爆发大战，隋军终因寡不敌众而失利，宋老生被李渊部将刘弘基率数百人包围，宋老生誓死不降，力竭战死。

主将阵亡，宋老生部众军心涣散，全线崩溃，投降者不计其数，两万隋军在霍邑县全军覆没。

李渊军队攻克了霍邑县，打开了河东道南部的大门，军队士气大振，李渊分兵南下，势如破竹，一路连克临汾郡、绛郡、文城郡、长平郡，上党郡太守司马邕在李建成劝说下，投降了李渊，至此，太原以南除河东郡外，其余各郡全部被李渊军队占领，大业十二年四月中旬，李渊亲率十五万大军进攻河东郡。

河东郡守将屈突通率四万军据守河东城，同时派人向洛阳紧急求援。