北宋政权建立起来后，赵匡胤总结最大的一条教训就是：一支无法控制的军队比一支无能的军队更糟糕。所以赵匡胤上台以后就开始加强对军队的控制。当然，他的很多做法并不是自己的发明，后周的君主已经开始有意识这么做了。从某个角度上说，赵匡胤是柴荣政策的继承者。
《大驾卤簿图书》(局部)，图中共绘官兵5481人、车辇61乘、牲畜近3000只、乐器1701件等
具体怎么做呢?当然要削弱藩镇。这个倒比较容易。五代后期，藩镇的力量已经很弱了，没什么抵抗能力。
更重要的是对付禁军。大家都知道赵匡胤“杯酒释兵权”的故事。有的读者会误以为这是去掉节度使们的兵权，其实恰恰相反，赵匡胤是把禁军高级将领撵去当节度使，其中就包括他的一批把兄弟。赵匡胤这么做是要把位高权重的人赶出禁军，把禁军将领们换成一批品级不高的新人，以方便他控制。但是这么做还不够，这只是一种权术，虽能取效于一时，但要想长治久安还得更改军事制度。
于是，赵匡胤永久性的改变了禁军制度。后周已经把禁军核心拆分为侍卫司和殿前司，赵匡胤更进一步将侍卫司拆分为侍卫马军司和侍卫步军司。这样禁军就割裂为不相统属的三部分，二司就变成了“三衙”。这样做赵匡胤还不放心，他进一步降低了三衙领导的品级。像殿前都点检、侍卫司都指挥使这样高级别的官职都空着不任命，三衙最高领导至多是从二品，甚至是四品官、五品官。所谓“位低则易使”，级别低了总是听话些。
这样就能让赵匡胤放心么?还是不踏实，还要再分权。三衙里有好多高级将领，赵匡胤蓄意降低他们之间的权位差距，让他们彼此牵制，总之是防范一元化领导，防止三衙长官翘尾巴。
北宋禁军印信
但是光这样就够了么?终究三衙里是一帮子武将，有共同语言，碰到特殊情况说不定会勾结起来?赵匡胤又让枢密院帮助三衙一起领导禁军。枢密院的领导叫枢密使，基本由文官担任。禁军的领导权在枢密院和三衙之间做了分割。三衙有管理权，枢密院有调度权。按后来李纲的说法，就是“兵符出于密院，而不得统其众，兵众隶于三衙，而不得专其制”。这个制度在后周时期已有苗头，赵匡胤将其进一步固化，持续了整个宋朝。
这样赵匡胤还是不太放心，赵匡胤武将出身，根据切身经验意识到了一件事：如果一个将领长期带领某支军队，那么将士之间就会有某种感情联系，这对作战当然有帮助，但也带来造反的可能! 《宋太祖立像》轴，绢本设色，纵265.5厘米，横127.8厘米，故宫南薰殿旧藏，现藏台北故宫博物院
所以赵匡胤推行了“更戍制”。按照惯例，禁军也要到各地驻防，不可能都屯在首都吃闲饭。以前这些禁军往往长期驻扎在当地。现在赵匡胤规定禁军在一个地方驻扎不能超过三年，往往一两年一换防。而且除了极个别例外，全体禁军都要参加轮换，这样一来，整个宋朝大地上布满了频繁换防的禁军，像蚂蚁搬家一样来回跑。
司马光夸奖这种制度，说它能让士兵“均劳逸、知艰难、识战斗、习山川”。士兵可能确实借机领略了祖国的大好风光，熟悉了不少山川，但问题是他们不太熟悉自己的将领。这样当然也有好处，守边大将手下的军队虽然不少，但一两年一换，你怎么培植个人势力?你又怎么可能带着一群半熟脸去造反?
制度上的变革也需要文化上的配合。赵匡胤大力崇尚文化教育，反复让将军们“多读书”，以前被看不起的“毛锥子”们开始神气活现，到了他弟弟赵光义的时代，这个趋势更加明显，文化人坚定地爬到了武将的头上。五代时期的格局出现了大翻盘。
