古北口 在早期并没有长城，战国和秦，汉时期的长城是从古北口以北很远的地方经过的。北齐天保六年（公元555年）所修自西河（今陕西榆林河）至和山海关三千多里的长城从这里经过，古北口这一带才有了长城。但是北齐长城比较低小，为土石所筑，现在遗迹已经不多了。唐代曾设东军，北口二守提，金贞佑二年（公元1214年）在这里设过铁门关。古北口成为一处雄关隘口，是从明朝开始的。

明朝初年把鞑靼贵州统治者推翻之后，朱元璋却派了徐达等来修筑居庸关、古北口、嘉峰口等处的城关，还封了他的第四个儿子朱棣为燕王，驻守北京。西北的居庸关、东北的古北口成了明王朝首都的两个重要门户。隆庆三年（公元1569年）明朝的政治家张居正为了加强防务，特别把著名的抗倭名将戚继光、谭纶调来北方。谭纶任蓟辽总督，戚继光任蓟镇总兵。蓟镇所管辖的一千二百多里的长城，经戚继光的精筹划，亲自督修，十数年之间便成了一道城墙高峙、墩台林立，烽火台相望的坚固防线。

古北口与居庸关东西对峙，是华北平原通往内蒙古草原的要道，自古称为雄险，有"地扼襟喉趋溯漠，天留销钥枕雄关"之称。据明朝嘉靖三十八年祝增所写的一块碑上说：古北口在畿辅"北京"东北二百里许，即唐朝时候幽州的虎白口，与诸民族为邻，最为要害，国朝设卫置将，以为重镇。凡是说天下之险要的，都要数这里。《密云县志》上说："京师北控边塞，顺天所属以松亭、古北口、居庸三关为总要，而古北为尤冲"。