汉代称汝阳，以汝水为名。隋代改为溵水。宋太祖赵匡胤为避父讳（其父名赵弘殷），讳“殷”、“溵”等字，“殷”、“商”为同一王朝名，改“溵水”为“商水”。

商水地域在西周时，属沈国。春秋时，蔡昭侯十三年（公元前506年）沈国被蔡国所灭，此时其县境西部属蔡国，东部属顿国。楚昭王二十年（公元前496年），楚国先灭顿国，后又灭蔡国。战国时，属楚国。秦，在阳城（含舒庄乡扶苏寺村）置县，属陈郡。陈胜、吴广起义时期，改阳城为扶苏。西汉时，属豫州汝南郡，县境分属阳城、汝阳、博阳三县。其后其县名屡经变换，至隋开皇十六年（596年），在其地域上又分置了殷水肥（治所为商水老城，另一说在今邓城镇潘堂）。大业初年（605年），并汝阳县入殷水县。皇泰元年（618年），置扶苏县，与殷水县同属陈州淮阳郡。唐武德五年（622年），并扶苏县入殷水县，属河南道。贞观元年（627年）属陈州。兴元元年（784年）属陈州淮阳郡。五代，县名仍称殷水，属陈州。宋建隆元年（960年），改殷水县为商水县。

1947年8月18日，商水县城第一次解放；10月23日，商水县城第二次解放；11月成立商水县民主政府，12月又在其今日辖地西部成立了郾商西县民主政府。1949年2月，郾商西县并入商水县。1952年6月10日，周口市改为镇归商水县管辖，商水县政府由商水城关迁到周口，属淮阳专区。1954年5月5日，商水县与周口镇分署办公。1958年，周口镇第二次并入商水。1965年11月25日，商水县与周口镇再次分署办公。1975年，商水县直机关由周口迁至商水老城至今。1953年前，商水县属淮阳专员公署。1953年—1965年，属许昌专员公署。1965年后属周口专区（周口地区），2000年8月2日属周口市。