不久后，高欢召集诸将讨论行动方案，对大司马斛律金、司徒韩轨、左卫将军刘丰等人说：“我每次同段孝先论兵，都能听到许多高见，如果出兵前让他来参谋参谋，就可能不会出现这次的徒劳无功了。

时下我担心局势危急，恐怕出现不测，准备委托孝先承担邺下的重任，你们认为怎么样？”斛律金等人回答：“知臣莫如君，孝先是最合适的。”

高欢又对段韶说：“往昔我和你的父亲冒着危险，同佐王室，建立了大功。眼下病重得厉害，大概不行了，你应该小心辅助朝廷，承担起这一重任。”

段韶就说：

“大王，下官定会竭尽全力，保邺城的安危，请大王放心。”

高欢于是马上下令段韶随次子高洋镇守邺城，召长子高澄赶赴晋阳大丞相府。

高欢临终前，遗令高澄说：

“段孝先忠孝仁厚，智勇双全，亲戚之中，只有此人，能担重任，为父去后，军旅大事，澄儿记得要和他商议。”

高欢去世后，大将侯景马上就叛变，当时高澄要前往河南等地，便将在邺城镇守的段韶召唤到晋阳。

段昭来到晋阳大丞相府，首先去拜见了姨母娄昭君。娄昭君拉着他的手说：

“韶儿，你姨父仙逝了，有遗命让你看守他的基业，如今你表弟高澄要去河南巡抚，晋阳无心腹之人镇守，你要担此重担，以慰姨父重托之情。”

“是，姨母，韶儿一定替您守住晋阳，请表弟安心前往河南，早日安定局面，有韶儿在，晋阳就能安然无恙，请姨母放心。”

“好，有韶儿的保证，姨母一定放心，如今三军统帅之印就暂托于你，你要小心行事，莫让军心动摇。”

“是，姨母，韶儿一定会不辜负姨父、姨母的重托，誓保晋阳平安。”

段韶说完，双膝跪下，高举双手，接过了姨母娄昭君手中的三军帅印。

段韶以冷静、沉稳的态度，一方面对姨父高欢逝世的消息只字不提，只对外宣称来代替生病的姨父高欢训练士兵。

顺利地稳定了晋阳三军的军心，直到高澄回来。