贞观四年正月，朔风凛冽，李靖率领三千精锐骑兵，冒着严寒，从马邑（今山西朔县）出发，向恶阳岭挺进。颉利可汗万万没有想到唐军会突如其来，兵将相顾，无不大惊失色。他们判定：如果唐兵不倾国而来，李靖决不会孤军深入，于是“一日数惊”。李靖探知这一消息，密令间谍离间其心腹，其亲信康苏密前来投降。李靖迅即进击定襄，在夜幕掩护下，一举攻入城内，俘获了隋齐王杨暕之子杨正道及原炀帝萧皇后，颉利可汗仓皇逃往碛口（今内蒙二连浩特西南）。李靖因军功进封代国公，赐物六百段及名马、宝器等。太宗高兴地对大臣说：“李陵以步卒五千绝漠，然卒降匈奴，其功尚得书竹帛。靖以骑三千，喋血虏庭，遂取定襄，古未有辈，足澡吾渭水之耻矣！”

　　在李靖胜利进军的同时，李绩也率军从云中（今山西大同）出发，与突厥军在白道（今内蒙呼和浩特北）遭遇。唐军奋力冲杀，把突厥军打得溃不成军。颉利可汗一败再败，损失惨重，遂退守铁山，收集残兵败将，只剩下几万人马了。

　　颉利可汗处于山穷水尽的境地，他派执失思力入朝请罪，请求内附，并表示愿意入朝。其实，他内心尚犹豫未决，意欲赢得时间，以苟延残喘，俟草青马肥之时，逃到大漠以北，以卷土重来。

　　唐太宗派遣鸿胪卿唐俭等前去安抚，又诏命李靖率兵迎颉利可汗入朝。李靖率兵抵达白道，与李绩谋议说：“颉利虽败，其众犹盛，若走度碛北，保依九姓，道路且远，追之难及。今诏使在彼，虏必自宽，若选精骑一万，赍二十日粮往袭之，不战可擒矣。”商议已定，遂率军连夜出发，李绩继后而进。

　　李靖率军进至阴山，遇到突厥斥候千余帐，一战而全部俘获，命与唐军同行。这时，颉利可汗见到唐使臣，放松了戒备。李靖前锋苏定方率领的两百余骑又乘着大雾，悄然疾行，直到距牙帐七里远的地方才被发觉。如同惊弓之鸟的颉利可汗慌忙骑马逃走，突厥军也四散而逃。李靖大军随之赶到，杀敌一万余人，俘虏十几万，缴获牛羊数十万只（头），并杀死隋义成公主。颉利可汗率万余人想北过大漠，在碛口受李绩所阻，不能北逃，其大酋长皆率众投降。不久，颉利可汗被大同道行军总管任城王李道宗擒获，并送到京师。东突厥从此宣告灭亡了。

　　自隋朝以来，突厥是西北的强国。李靖等灭了东突厥，不仅解除了唐朝西北边境的祸患，而且也洗刷了唐高祖与太宗向突厥屈尊的耻辱。因此，唐太宗颇有感慨地说：“朕闻主忧臣辱，主辱臣死。往来国家草创，突厥强梁，太上皇以百姓之故，称臣于颉利，朕未尝不痛心疾首，志灭匈奴，坐不安席，食不甘味。今者暂动偏师，无往不捷，单于稽颡，耻其雪乎！”太上皇李渊也欣喜万分，他把太宗、贵臣十几人，还有诸王、王妃、公主等召至凌烟阁，设宴庆祝。他一时兴起，还亲自弹起了琵琶，太宗起舞，大臣们也接连起身举杯祝贺，一直延续到深夜。

　　李靖虽在战场上勇猛善战，叱咤风云，但却性情沉厚。事后御史大夫萧瑀妄加劾奏李靖治军无方，在袭破颉利可汗牙帐时，一些珍宝文物，都被兵士抢掠一空，请求司法部门予以审查。太宗虽一时不明缘由，特赦不得审查。在李靖入见时，唐太宗仍严加责备，李靖却不加辩白，只是顿首谢罪。太宗以其功劳大，加授左光禄大夫，赐绢一千匹，加实封户，通前为五百户。后来，唐太宗知道李靖受了诬告，又赐绢二千匹，并由兵部尚书晋升为右仆射，成为宰辅。在宰相议政时，又“恂恂似不能言”。

　　李靖在青少年时曾锐意进取，然而一旦富贵在身，又深惧盈满，能知足而退。到了贞观八年（634）十月，担任宰相职务刚满四年的李靖即以足疾辞任，而且言辞恳切。唐太宗明白他的心意，并十分欣赏他的这一举动，派遣中书侍郎岑文本转告他说：“朕观自古已来，身居富贵，能知止足者甚少。不问贤智，莫相自知，才虽不堪，强欲居职，纵有疾病，犹自勉强。公能识达大体，深足可嘉，朕今非直成公雅志，欲以公为一代楷模。”特颁下诏书，加授特进，赐物千段，尚乘马两匹。如足疾稍好一些，每二三天可到中书、门下平章政事。不久，又特赐李靖一条灵寿杖，以帮助他疗养足疾。