北边的李筠被解决掉后，宋廷又将矛头指向南边的李重进。此时李重进才知道自己已经失去南北夹击的机会，后悔不及，但为时已晚。这一次太祖御驾亲征，只用一个月就攻克扬州，李重进和李筠的下场一样：举家自焚。
本来李筠和李重进约好同时起兵，共讨赵匡胤。但是李重进派去联络李筠的"亲信"瞿守珣却跑到东京去向宋太祖告密并且做了双重间谍，又跑回扬州告诉李重进说李筠不愿意合作。当时也没有无线电，李重进就相信了他这位亲信。这边李筠却不知情，独自起兵。太祖遣归德军节度使石守信率军平叛，遣昭化军节度使慕容延钊、彰德军节度使王全斌从东路包抄，在长平（今山西高平）大败李筠。石守信、高怀德又在泽州城外大破北汉援军，生擒李筠部下伪节度使范令图，将李筠合围在泽州城内。宋军四十余天攻破城池，李筠赴火自焚，其子李守节在上党投降，遇赦。就在泽州，李筠曾于高平之战中取得过名垂青史的荣誉，但也在这里，最终落得如此下场。讨平李筠前后只用了两个月左右的时间。
最大的两个外镇武将被武力讨平，其余百官虽然还有很多仍然不舍后周，甚至经常流露出来，但事已至此，不可挽回。太祖对他们也非常宽容，认为这只是正常的人性流露而没有处罚，宋朝的内政逐渐稳定下来。周围的割据势力如南唐、北汉、吴越、后蜀等以及辽、高丽、三佛齐、占城等海外诸国纷纷遣使来朝，承认宋朝的正统地位，接下来就应该着手中国的重新统一大业。
首先要解决的问题是后周旧臣，京城内唯一不愿拥立宋太祖的忠臣韩通被杀，其余都投降了。张永德已经被废掉，但镇守北边潞州的李筠、镇守南边扬州的李重进仍手握重兵，而且都是拥有较高声望和政治背景的名将。他们确实也都树起反帜，声讨新建的宋朝。
首先对准的目标是位于今湖南的衡州刺史张文表、荆南节度使高继冲和武平节度使周保权三位小人物，宋廷以山南东道节度使慕容延钊为主帅，枢密副使李处耘为都监，率十州地方军进讨，轻松获胜。这些都是小人物，就不详细讲了。控制了四战之地荆州，南方诸国都直接暴露在了宋军的矛头之下。
宋太祖即位后，定都东京开封府（今河南开封），并以名义上的发源地宋州（今河南商丘）为南京，以洛阳为西京，以大名府（今河北大名）为北京。尊母亲杜氏为皇太后，父亲赵弘殷已于周世宗显德三年（公元956年）去世，追赠为"宋宣祖"，皇弟匡义避讳改名为"光义"。经推算，宋朝应该属火德，尚红色。后周宰相范质、王溥、魏仁浦继续为大宋的宰相，不久以赵普等亲信取代，又以石守信、高怀德等亲信执掌军权。并接受西羌党项部首领李彝殷（李彝兴）、荆南节度使高保融的割据势力的朝贡，一个新的国家已经初具气象。但他到底是要终结五代乱世还是继续做普通的第六代呢？
乾德二年（公元964年），宋廷集结兵力讨伐后蜀。后蜀的国土大致相当于今四川省，最后一个皇帝孟昶（史称"后蜀后主"）算是比较腐朽的统治者，但他居然主动遣使北汉要求南北夹击宋朝，而且他的方案是出子午谷占领潼关以西的地盘，还把自己当诸葛亮了。十一月，太祖集结兵马，一路由忠武军节度使王全斌为西川行营前军兵马都部署，武信军节度使崔彦进监军，率步骑三万出凤州道（今陕西凤县）；一路由江宁军节度使刘光义为西川行营前军兵马副都部署，枢密承旨曹彬监军，率步骑二万出归州道（今湖北秭归）。后蜀虽然占尽地利，但毕竟没有诸葛亮，在宋军面前完全是废柴，几下就被打趴下。北路军王全斌在攻克剑门时斩首万余级，蜀军本就对胜利不抱太大希望，此后更是心理完全崩溃。不多时宋军会师成都，孟昶直接宣布投降，前后一共只用了66天时间。