1957年3月26日,经国务院批准,建立鹤壁市。辖汤阴县以西的12个乡、安阳县一个乡为辖区,市委、市人委机关驻鹤壁集。1957年6月27日,河南省人民委员会决定,鹤壁市由省直接领导。1958年经国务院批准委托新乡专署领导。1959年1月,市委、市人委机关由中山迁至大胡红旗街。1960年10月14日,经国务院批准将汤阴县划归鹤壁市领导。1961年12月,国务院批准鹤壁市划归安阳专署代管,汤阴县改归安阳专署管辖。同年设山城区、鹤山区;1966年设郊区。1974年1月,河南省委决定,鹤壁市改为省辖市。
1957年3月,汤阴县地置鹤壁市,为省辖市,委托安阳专署领导,后改为省直接领导。1958年12月,安阳专署撤销,鹤壁市曾一度归新乡专署领导。1961年12月恢复安阳专署,又改归安阳专区。1960年10月到1961年11月,汤阴县曾一度划归鹤壁市。1986年1月,浚县、淇县划归鹤壁市管辖。
鹤壁的历史最早可以追溯到3000年前的商朝武丁大帝时期,武丁大帝是商朝首都朝歌的奠基者。中国周朝最大的诸侯国卫国的首都仍建在朝歌,卫国第18代国君卫懿公嗜好鹤,在宫廷朝歌西北等处养鹤,鹤壁因“鹤栖南山峭壁”而得名。