元至元二十九年(1292年),在区境南部建立上海县署;清道光二十五年(1845年),区境北部先后开辟为英租界和法租界,开始有“南市”、“北市”之说。1927年7月上海特别市政府成立后,南市老城厢地区划入沪南区管辖。在1937年“八一三”抗战爆发后的沦陷时期,沪南区改称为南市区。
1945年抗战胜利后,区境为上海第一区(黄浦)、第二区(老闸)、第三区(邑庙)、第四区(蓬莱)。当时上海市政府将全市分设30个区,第一区因濒临黄浦江,又以江名黄浦为区名,这是黄浦区得名之始。南市老城厢地区划为邑庙区、蓬莱区。1949年5月上海解放后,两区分别接管,并建立区人民政府,1959年12月邑庙、蓬莱两区合并为南市区。1956年,黄浦、老闸两区合并为黄浦区;1959年,邑庙、蓬莱两区合并为南市区;1993年,黄浦区、南市区原浦东地区划归浦东新区。2000年,黄浦、南市两区拆二建一,成立新的黄浦区。黄浦区委、区政府驻地:延安东路300号。
“黄浦”的地名得名于“黄浦江”:黄浦江,南宋名“黄浦”,清代始称“黄浦江”,源自今上海市西部淀山湖,流经十一区,至北部吴淞口注入长江,为上海最大的河流,被誉为上海的“母亲河”。1945年建区时,以境东河名命名为“黄浦区”。