接受了代州都督张公瑾的建议，决定出击东-突厥，命兵部尚书李靖为定襄道行军总管，以张公瑾为副，发起了强大的军事攻势。
贞观四年正月，朔风凛冽，李靖率领三千精锐骑兵，冒着严寒，从马邑出发，向恶阳岭挺进。颉利可汗万万没有想到唐军会突如其来，兵将相顾，无不大惊失色。
他们判定：如果唐兵不倾国而来，李靖决不会孤军深入，于是“一日数惊”。李靖探知这一消息，密令间谍离间其心腹，其亲信康苏密前来投降。李靖迅即进击定襄，在夜幕掩护下，一举攻入城内，俘获了隋齐王杨暕之子杨正道及原炀帝萧皇后，颉利可汗仓皇逃亡。
唐太宗刚即位不几天，突厥颉利可汗乘唐朝皇帝更替之机，遂率十几万精锐骑兵再次进犯泾州，并长驱直入，兵临渭水便桥之北，不断派精骑挑战，还派其心腹执失思力入朝，以观察虚实。
当时征调的诸州军马尚未赶到，长安市民能拿兵器打仗者也不过几万人，形势十分危急。在此种情况下，太宗曾冒险亲临渭水桥，与颉利可汗结盟，突厥才退兵。
所以唐朝和突厥的仇很大，李世民更是不会放过突厥。而突厥人准备投降休养一阵，李世民假装答应，表面上派出使臣宣慰，暗地里让李靖择机再次攻击突厥。