南山区位于市区南部,东与东方红乡毗连,南、西南分别与兴安区、红旗乡接壤,西、西北与工农区分界,北与向阳区为邻。全境地势西高东低,丘陵起伏,有“三山一水”(即五指山、鹿林山、老山头和鹤立河)之称,鹤岗铁路和哈萝公路穿过城区腹地。全区总面积25平方公里。全区辖有铁东、铁西、大陆、六号、富力、鹿林山等6个街道办事处。全区总人口13.5万人,其中非农业人口12.3万人;少数民族有回、满、朝鲜族等。区政府驻地南山路中段。
南山区,原称“南岗”,因设南岗采炭所得名。后因南岗采炭所改称南山矿,故改名“南山”。原属汤原县管辖,1939年6月划归鹤立县管辖,隶属兴山街。1945年“九三”抗日战争胜利后,1946年设立南山区,隶属兴山市管辖。1948年撤销南山区。1949年11月,改隶鹤岗市。1954年设立南山街道办事处,1958年11月改称南山经济区。1960年12月10日,省人民委员会批准,正式设立南山区。1966年8月31日,鹤岗市人民委员会批准,改称东风区。1980年4月24日,省人民政府批准,将东风、跃进(1958年设大陆经济区,1960年12月正式设立大陆区。1966年8月31日,改称跃进区。)两区合并为南山区。