Во времена империи Цинь эти места входили в состав Цзюцзянского округа (九江郡). После смены империи Цинь на империю Хань они оказались в составе Юйчжанского округа (豫章郡). В 194 году из Юйчжанского округа был выделен Лулиньский округ (庐陵郡).
После окончания эпохи Троецарствия и объединения китайских земель в империю Цзинь из Лулиньского округа в 282 году был выделен Наньканский округ (南康郡), власти которого разместились в Юйду (雩都). В 349 году власти округа переехали в уезд Ганьсянь (赣县).
Во времена империи Суй Наньканский округ был в 589 году переименован в Цяньчжоускую область (虔州). В 607 году Цяньчжоуская область снова стала Наньканским округом, но после смены империи Суй на империю Тан Наньканский округ был в 622 году вновь переименован в Цяньчжоускую область. В 742 году Цяньчжоуская область снова стала Наньканским округом, но уже в 758 году Наньканский округ окончательно стал Цяньчжоуской областью.
Во времена империи Сун три уезда были в 990 году выделены из Цяньчжоуской области, образовав отдельный Наньаньский военный округ (南安军). В 1153 году в связи с тем, что у иероглифа «Цянь» имеются значения «убивать, насильничать, грабить», было решено сделать название области более благозвучным, и Цяньчжоуская область была переименована в Ганьчжоускую область (赣州).
После монгольского завоевания и образования империи Юань Ганьчжоуская область стала в 1277 году Ганьчжоуским регионом (赣州路), а Наньаньский военный округ — Наньаньским регионом (南安路). Когда в середине XIV века разразились антимонгольские восстания, то в 1365 году эти места перешли под контроль повстанцев под руководством Чжу Юаньчжана, и «регионы» были переименованы в «управы» — так появились Ганьчжоуская управа (赣州府) и Наньаньская управа (南安府). После Синьхайской революции в Китае была проведена реформа структуры административного деления, в ходе которой управы были упразднены, поэтому в 1912 году Ганьчжоуская и Наньаньская управы были расформированы.
Когда на завершающем этапе гражданской войны эти места перешли в августе 1949 года под контроль коммунистов, то 15 августа посёлок Ганьчжоу был выделен из уезда Ганьсянь, став городским уездом.