当初，明军攻占元大都城，将原先城池的北城墙南移五里新筑北城墙，设德胜门和安定门。明正统四年建成德胜门城楼、瓮城、箭楼及闸楼等，用“以德取胜”之意，称“德胜门”。

　　随着清王朝的覆灭，火药兵器的发展，城墙防御已经起不到保护城池的作用，城墙及城门楼被认为是城市的“摆设”。德胜门瓮城及闸楼于1915年修环城铁路时，因阻碍铺铁轨而被拆除。1921年因德胜门城楼梁架腐损，北平民国政府将其拆除。1955年以改善交通的理由将德胜门城台及券门拆除，城墙开出大豁口，德胜门箭楼仍然伫立着，德内大街到德外大街要绕德胜门箭楼的两侧通行。

　　1965年北京地铁开工，解放军铁道兵从五棵松、万寿路、军事博物馆开挖地铁隧道大沟，采用明挖填埋法修建地铁隧道和车站。1969年地铁二期，挖到北京内城墙及护城河形成环线，各城门楼、城墙全拆。新街口豁口到德胜门的城墙外侧原是建筑材料堆放分发的货场，有从西直门过来的铁路，火车运来白灰、砂石、煤等等，在这里卸车，每天暴土狼烟脏极了。地铁工程开始这里就改变了，拆城墙、断铁路、迁货场，开挖地铁隧道大沟，大沟宽十几米，两旁用木板做支护，抽水机24小时抽水。据原解放军铁道兵12师57团的老人讲，清理德胜门城楼基础时感到明代的古建筑坚硬，按计划德胜门箭楼也在拆除之列，铁道兵的一位团长看到要拆德胜门箭楼工作量很大，修地铁的任务又急又重，而且德胜门箭楼并不在地铁隧道施工的正线上，就决定暂缓拆德胜门箭楼建筑，就这样德胜门箭楼逃过一劫没有被拆。

　　1978年地铁土建工程快完成时，开挖的地铁隧道大沟已经填埋，地面铺修北二环路，有人又提出拆德胜门箭楼的事，有专家反对。

　　1979年2月14日，全国政协委员郑孝燮为免拆德胜门箭楼写信给国家副主席陈云：听说北京即将拆除一座明朝建筑——德胜门箭楼。为此建议，请考虑对这类拆古建筑的事，应迅加制止。理由讲了五条：1、德胜门箭楼是现在除前门箭楼外，沿新环路（原城墙址）剩下的惟一的明代建筑，如果不拆它并加以修整，那就会为新环路及北城一带增添风光景色。2、德胜门箭楼是南面什刹海的借景，与东面的鼓楼、钟楼遥相呼应的重点景点。从整个北京城的景观效果来看，保留它与拆掉它大不一样。3、风景文物也是“资源”，发展旅游事业又非常需要这种“资源”，因此是不宜轻易拆毁的。4、破坏风景名胜有两种情况：一是拆或改。二是不拆。我们的城市规划、文物保护、园林绿化工作，迫切需要有机配合，共同把风景名胜保护好。5、像德胜门箭楼的拆留问题，可以请有关单位的领导、专家、教授座谈座谈，听听他们是什么意见。（注：本建议信内容有删节。）

　　当时“建议”反映到中央，谷牧副总理负责处理此事，谷牧说：不拆！作为兵器博物馆。就这样德胜门箭楼建筑作为历史文物保留下来，这个时期人们对古城楼的认识有所改变，将德胜门箭楼建筑看作北京市历史文化的一部分。1979年8月德胜门箭楼公布为北京市第二批市级文物保护单位。