公元前127年冬，匈奴军臣单于死去。军臣单于弟弟左谷蠡王伊稚斜自立为单于，打败了军臣单于的太子於单。匈奴的实力本来就有限，加上伊稚斜篡位造成的分裂，实力更是锐减。汉武帝整顿军备后，多次派遣卫青、霍去病等人对匈奴进行了强有力的进攻。几次战争下来，匈奴伊稚斜单于被打得节节败退。