当年十月，宋太祖赵匡胤遣使至太原劝降，刘继元一面拒绝降宋，一面急急地遣使辽国请援。

十一月，辽穆宗派遣辽军兵马总管塔尔率大军救援北汉，逼进太原。宋军方面，虽大军猬集，然河东晋阳乃三面环山，控山带河，襟四塞之要冲，控五原之都邑，踞天下之形胜，自春秋战国以来便是一等一的战略要地，其后再累经历代王朝的不断修缮加固，早已经是固若金汤。其时，河东晋阳更是汉国第一要紧之地，北汉三代国主，自立国第一天起从未放松河东晋阳的城防。在北汉三代国主的倾力打造之下，河东晋阳城不仅城防坚固超过历代，而且城中所囤积的粮草亦甚充足，足以支撑一年以上，故虽有宋将李继勋等拼命死攻，然亦久攻不下。加之，又闻辽军大军将至，不得已，李继勋等遂引兵南归。北汉军则乘机发动追击，进掠宋朝的晋、绛两州。

第二年二月，即北宋开宝二年(公元969年，辽穆宗应历十九年)二月，不甘失败的宋太祖赵匡胤再命曹彬、党进等大将各领兵先赴太原，自率大军继后，亲征北汉。北汉刘继业得知赵匡胤御驾亲征，自知寡不敌众，收缩兵力退回太原。三月初，赵匡胤兵至太原，遂征发当地民工数万人，修筑长墙包围太原，并筑长堤，引汾水灌城，多方进攻。