部队迅速进抵霍邑。李渊率数百名骑兵在霍邑东面数里等待步兵主力，李建成和李世民率数十名骑兵驰至霍邑城下，一边扬鞭挥手制造攻城假象，一边高声诟骂，试图激怒宋老生。
有勇无谋的宋老生果然一下就被激怒了，率领三万人分别从东门和南门出击。李渊急命殷开山召集后续的步兵主力进入战场，随后命李建成在城东列阵，命李世民在城南列阵。
为了一战消灭宋老生，防止他逃回城中据守，李渊决定佯装败退，吸引宋老生更远地脱离城池。
宋老生首先对东面的义军发起进攻。李渊与李建成假装受挫，开始往后退却。李世民与部将段志玄立即率骑兵从南面直冲宋老生军阵，攻击他的后面。
双方短兵相接，战斗异常激烈。李世民冲锋在前，一连砍杀数十人，手上的两把刀都砍出了缺口，鲜血溅满了他的衣袖。李世民甩甩袖子，继续作战。
