李靖派人探知了他们的内情后，就暗中派间谍离间他们君臣。不久，颉利可汗的心腹大臣康苏密前来降。贞观四年（公元630年），李靖进军攻破了定襄（治所在今内蒙古土城子），俘获了隋朝的杨正道及隋炀帝的萧皇后。李靖派人将他们送回京城长安。颉利可汗仅单身独骑逃遁。李靖因战功突出，进封代国公。
太宗曾对李靖说：“汉朝的李陵率步兵五千，最后还是在匈奴失败，您以三千轻装的骑兵深入突厥重镇，克复定襄，威震北狄，实在是古今所未有啊！您完全替我报了往年渭水之战失利的耻辱。”自从李靖攻破定襄以后，颉利可汗对李靖十分恐惧，就退保铁山（在今内蒙古阴山以北），并派遣使者入朝谢罪，请求以突厥全国向唐朝投降。太宗任命李靖为定襄道的行军总管，前去迎接颉利可汗。颉利虽然在表面上请求朝见太宗皇帝，实际上暗中还在犹豫。当年二月，太宗派遣鸿胪卿唐俭、将军安修仁前往铁山抚慰颉利可汗。
李靖料到颉利尚怀有二心，就对将军张公谨说：“皇上降旨，派遣使者到突厥，突厥人必然自我宽心，认为已派了使者，没有防备。我们现在趁机挑选一万名精壮的骑兵，携带二十日的军粮，率兵经白道（在今内蒙古呼和浩特市西北，为河套东北地区通往阴山以北的要道）袭击颉利，必然取胜。”张公谨说：“皇上降旨允许颉利投降，本朝也有使者在颉利那里，现在讨伐他，恐怕不合适。”李靖说：“这是用兵的计谋，机不可失，这正是当年韩信击败齐国的原因。至于唐俭等人，没有什么值得吝惜的。”于是，李靖督促军队急速前进，迅速到达了阴山附近。恰巧遇到突厥哨兵营地，共有一千余顶帐篷，李靖选好时机，指挥军队突袭，将突厥哨兵全部俘获，然后让他们随军一起前进。