Несмотря на то, что эти земли населены с древнейших времён, до середины XX века они не были объединены единой административной единицей.
В 1949 году был образован Специальный район Хэншуй (衡水专区), в который вошло 13 уездов. В 1952 году он был расформирован, и 3 уезда было передано в состав провинции Шаньдун, 6 — в состав Специального района Шицзячжуан (石家庄专区), 3 — в состав Специального района Цансянь (沧县专区) и 1 — в состав Специального района Синтай (邢台专区). В 1962 году Специальный район Хэншуй был воссоздан — на этот раз в составе 11 уездов. В 1970 году Специальный район Хэншуй был переименован в Округ Хэншуй (衡水地区). В 1982 году посёлок Хэншуй был поднят в статусе до городского уезда.
В мае 1996 года решением Госсовета КНР округ Хэншуй был преобразован в городской округ Хэншуй, а территория бывшего городского уезда Хэншуй стала районом Таочэн в его составе.