五月下旬，宋军自太原诸路并进，越过太行山向河北平原集结。六月十三日，太宗从镇州（今河北正定）亲自督军北上，正式发动北征。十天后宋军进抵南京（今北京）城下。辽将耶律斜轸见宋军兵锋略盛，便引兵退驻得胜口（今河北昌平西北），耶律沙则撤到清河北（今北京清河镇附近），互为犄角，声援南京。
宋太宗误以为耶律斜轸只能据守险要以自保，便派一部进行监视，自率主力日夜攻城，命宋军围城三匝，穴地而进。辽朝守臣韩德让日夜登城指挥，力保城池不失。宋军围攻半月，疲惫劳顿，粮草因运输线过长也开始紧缺。
七月初，辽朝所派耶律休哥率领的驰援大军已抵达前线。他先以弱兵五千诱敌，再以精骑三万从他道绕到宋军南侧，发动猛攻，席卷而北。六日，耶律沙进军城下，与宋军激战高梁河（今北京西直门外），耶律休哥和耶律斜轸也各率所部分左右两翼向宋军发起猛烈的攻击。宋军急调围城部队迎敌，城内辽军见援军赶到，便开门列阵，鸣鼓助攻。宋军在辽军数路猛攻下，全线崩溃。次日黎明，太宗在混战中腿上中了两箭，仓皇奔逃至涿州，因箭伤无法骑马而换乘驴车继续南逃。辽军追杀三十余里，耶律休哥身上也多处受伤，不能驭马，便改乘轻车追逐，至涿州未获宋太宗而还师。
在高梁河之战中，就兵力对比而言，宋军明显占上风，但却以惨败而告终，使宋初以来培植的宋军精锐元气大伤。究其战败的内部原因，一是战略上的轻敌，以为挟战胜北汉的余威，必能奏功。二是战术上的失策，屯兵坚城之下，不作打援的部署，乃至处于内外数路夹攻的被动境地。三是士气的不振，将士连续作战，身心均已疲惫，将领中甚至有掳掠北汉妇女充当军妓的，其军心涣散、士气低落可以想见。
为了报复南京围城之役，当年九月与次年十月，辽军两次攻宋，双方互有胜败，谁都不敢说胜券稳操。现在自宋太祖就志在解决的燕云十六州问题，对太宗说来成为一个棘手的难题。首先，战端一开，已经切断和平解决的所有可能。大言既出，不打则贻笑天下，威望扫地；若打则覆辙在前，胜负难料。太宗有点进退两难。
太平兴国七年，趁辽圣宗新即位之际，宋太宗甚至谋求与契丹恢复以前的和平状态，但因没有正式的国书而遭到拒绝。而要下国书求和，太宗还拉不下这面子。在接到辽朝拒绝的信息以后，太宗重新开始积极备战。雍熙三年（986年）正月，经过长期准备，宋太宗决定再次发动大规模的伐辽战争，史称雍熙北征。之所以这时发起北征，太宗是出于对内外形势的判断才作出的。
先说对内，高梁河战败时，军中见太宗不知去向，竟有人打算拥立太祖之子赵德昭，这令太宗深感皇位未稳，于是转而注意内政。到雍熙初年，不仅太祖之子都已死去，连居于准皇储地位的皇弟廷美也已贬死，太宗最后一块心病已经除掉，因而可以放心攘外了。而自南京围城之役以来，七年来战略物资的准备积聚，也足以对付一场大战。
再说对外，太宗误信边将的报告，认为“契丹主少，母后专政，宠幸用事”。从表面现象来看，辽圣宗这年才十六岁，说得上是“主少”；政事听命于其母承天太后，说“母后专政”也名副其实；而承天太后也确实重用她所钟爱的韩德让，在大计方针上多有听从，以“宠幸用事”评断也相去不远。
但承天太后与韩德让共掌朝政称得上是黄金拍档，这一时期也是辽朝历史上最辉煌的年代。就以边境防务而言，承天太后在圣宗即位当年，就任命耶律休哥为燕京留守，允许他便宜行事，总领南面的军务。史称耶律休哥在这一期间“劝农桑，修武备，边境大治”。他不仅是一代名将，也是有眼光的政治家，对宋朝的进犯早有防备。因而宋太宗在对外征战时机的选择上，是绝对错误的。
雍熙北征是宋太宗亲自指挥的，这次他没有亲征，而是用阵图遥控指挥。阵图是宋代猜防武将，实行“将从中御”政策的产物。宋太祖是宋代皇帝中唯一的天才军事家，他用将“专而不疑”，只在命将出师前作简要的指示和告诫。太宗的韬略远不能与乃兄相比，却自以为是军事天才，对武将的猜忌防范之心十分强烈，为了“将从中御”，就预先设计好阵图交给出征的将帅，让他们不折不扣执行。太宗、真宗两朝阵图最为盛行，但也是对辽战争一败再败的年代。战争形势瞬息万变，在当时通讯条件下根本不可能及时反馈进行调整，阵图的荒谬可想而知。