红军先头部队渡过乌江后，立即扑向遵义。
1935年1月6日下午，红1军团2师6团在红军总参谋长刘伯承的指挥下，冒雨西进，占领了距离遵义城20公里的黔军外围据点——桑木桠，黔军稍作抵抗就全线崩溃，红军抓了200多个俘虏。
红军从俘虏中找了1个连长、1个排长和十几个出身贫寒的士兵，向他们交代红军的政策，询问遵义城守军的情况。那名连长在红军的感召下，把遵义城的工事、兵力，一一讲了，还画了一幅草图。
摸清了遵义城黔军的底细，为了减少损失，红军决定化装成黔军，利用俘虏去诈城，打个便宜仗，智取遵义。
夜9点钟左右，红6团1营营长曾宝堂带着3连、团直属侦察排及全团二三十个司号员，化装成黔军，并由十几个经过教育的黔军俘虏带路，冒雨向遵义城进发。其余部队后续跟进，准备诈城不成，实行强攻，迅速夺取遵义。
当时天黑得什么也看不见，路滑得像泼上了油。队列里不时地响起“噗通”“啪唧”的声音，差不多每个人都摔过几跤。摔一跤后，就成了泥人。有的草鞋被烂泥拔住，想拣起来，可那鞋就像用胶粘在地上似的，怎么拽也拽不出来。扔了吧，真舍不得；拣吧，就要耽搁老半天，影响大队人马前进的速度。于是很多人干脆赤着脚、踏着碎石、烂泥、荆棘，继续前进。
急行军两个多小时以后，大雨停了。透过夜幕，遵义城楼的灯光依稀可见。靠近再一看，只见城门紧闭，黔军哨兵在城墙上巡逻，悠闲自得，仿佛什么都没发生似的。
化妆成黔军的红军故意制造了一种兵慌马乱的气氛，急匆匆地跑到城下，要求迅速打开城门，放进去。
在城墙上巡逻的黔军哨兵被这突如其来的叫喊声，惊呆了。
过了一会儿，他们气势汹汹地叫嚷：“干什么的？”随之而来的是枪栓呱啦呱啦地乱响一阵。
“自己人！”俘虏用贵州话从容地回答。
“哪一部分的？”城楼上又问。
黔军俘虏连长按着红军事先给他安排的内容，悲悲戚戚地回答：“我们是外围营的，今天叫‘共匪’包围了，庄子丢了，营长也打死了，我是一连连长，领着一部分弟兄好歹逃了出来。现在‘共匪’还在追我们，请快开城门，救救我们！”
“你们营长叫什么名子？”敌人还想考问一下。
俘虏连长毫不迟疑地答上了。城楼上沉闷了一会。为了不让他们缜密地思考，红军战士乱嘈嘈地喊：“快开门哪！”“‘共匪’马上就追上来啦！……。”
“吵吵什么！”一个口气很冲的家伙朝红军大喝一声，听口气，估计是个当官的。红军只好“服从”，都不吭声。
突然从城楼上射下来几道手电光，在红军身上照来照去，仿佛要照出可疑的东西来。当守城的黔军确实这些戴大盖帽的是“自己人”的时候，才说：“等着，别吵，这就给你们开门！”
“哗啦”一声，城门卸下了门闩。随着“吱、吱”的两声，又高又厚的城门敞开了。守城黔军恐慌地问红军侦察排的战士：“怎么‘共匪’已经过乌江啦？来得好快呀！”
“是啊！，现在已经进了遵义城！”侦察排的战士把枪口指着那两个黔军士兵的太阳穴，严厉地说：“告诉你们，我们就是红军！”
那两个黔军士兵吓得“啊！”了一声，就像面条一样瘫在地上了。
红军战士一下子涌进城去，割了电线，收拾了城楼上的敌人。二三十个司号员一齐吹起了冲锋号，后续部队像风一样向街里冲进去。
霎时，遵义城热闹起来了，激昂嘹亮的军号声中夹杂着惊心动魄的枪声；英勇杀敌的呼喊混合着敌人的哭叫。大多数黔军还没有来得及穿衣服就当了俘虏，只有少数黔军狼狈不堪地从北门逃窜了。
1月7日早晨，遵义宣告解放。
1935年1月15——17日，中央政治局扩大会议即遵义会议召开，初步确立了毛泽东在红军和党中央的领导地位。从此以后，红军转败为胜，转危为安。