1958年建水冶公社，1975年改镇。1997年，面积33.3平方千米，人口13.5万，辖南关、东街、西街、南街、阜城东街、阜城西街、阜城南街、阜城北街、果元、向阳、井家庄、西蒋、天池、茶棚、彰武、东古庄、西古庄、南段、北段、阳郡、姬家屯21个行政村和东北街、北关、小东关、老城区4个居委会。2002年12月28日，国务院批准（国函[2002]123号）：将水冶镇的北彰武村划归安阳市龙安区管辖。2022年8月4日，经河南省人民政府批准，河南省民政厅下发了《河南省民政厅关于调整安阳县水冶镇蒋村镇行政区划的批复》（豫民行批〔2022〕35号），同意撤销安阳县水冶镇和蒋村镇，设立新的水冶镇，以原水冶镇和蒋村镇行政区域为新设水冶镇行政区域。新设水冶镇人民政府驻水冶镇辅岩路102号。 此次行政区划调整后，水冶镇行政区面积由原来的46.07平方公里增至91.14平方公里，总人口约为12.89万人，所辖建制村由原来的17个变成现在的41个，所辖居委会个数不变，仍为18个，新设水冶镇人民政府驻地不变。