据《读史方舆纪要》，“周武王伐纣，回师息戎，因名偃师。”公元前11世纪，周武王攻取朝歌，灭掉商朝。武王回师镐时，认为天下已经太平，决定偃师息戎。于是“放马华阳”，兵车入库，表示不再打仗。

秦因置偃师县。1993年撤县设市。

2001年，偃师市辖12个镇、5个乡：城关镇、翟镇镇、首阳山镇、李村镇、诸葛镇、府店镇、高龙镇、庞村镇、缑氏镇、顾县镇、岳滩镇、寇店镇、山化乡、大口乡、邙岭乡、佛光乡、佃庄乡。

2000年，偃师市辖13个镇、4个乡。根据第五次人口普查数据，全市总人口816026人，各乡镇人口： 城关镇 118823 、首阳山镇 50487 、佃庄镇 38686、 翟镇镇 41268 、岳滩镇 39042 、顾县镇 58628 、缑氏镇 62899、 府店镇 41250、 高龙镇 35816、 寇店镇 36020、 庞村镇 36790、 李村镇 68888 、诸葛镇 50860 、山化乡 45905、 邙岭乡 33217、 佛光乡 13086、 大口乡 44361。

至2001年底，全市辖城关、首阳山、岳滩、顾县、翟镇、佃庄、李村、庞村、寇店、高龙、缑氏、府店、诸葛等13个镇和邙岭、山化、佛光、大口等4个乡，332个行政村。

2005年，偃师市乡镇区划调整：撤销佛光乡，其行政区域划归府店镇管辖，府店镇政府驻地不变。截至2005年12月31日，偃师市辖13个镇、3个乡：城关镇、首阳山镇、诸葛镇、顾县镇、高龙镇、寇店镇、府店镇、庞村镇、岳滩镇、李村镇、翟镇镇、缑氏镇、佃庄镇；山化乡、邙岭乡、大口乡。

2009年12月21日，河南省民政厅批复（豫民行批[2009]46号），经河南省政府批准，同意将偃师市诸葛镇整建制划归洛阳市洛龙区管辖。

2010年3月19日，河南省民政厅批复（豫民行批[2010]8号），经河南省政府批准，同意将偃师市李村镇整建制划归洛阳市洛龙区管辖。

2011年5月9日，经河南省人民政府批准（豫民行批〔2011〕35号），将偃师市庞村镇整建制划归洛阳市洛龙区管辖。

至2010年年底，偃师市辖11个镇、3个乡：城关镇、首阳山镇、顾县镇、高龙镇、寇店镇、府店镇、庞村镇、岳滩镇、翟镇镇、缑氏镇、佃庄镇；山化乡、邙岭乡、大口乡。

2012年1月，撤销城关镇、首阳山镇，设立商城街道、工业区街道和首阳山街道。