Основан в конце XVIII — начале XIX века как слобода Ерзовка, она же Пичуга.
Ерзовка заселена в конце XVIII — начале XIX века государственными крестьянами. По названию речки, при которой расположился населённый пункт, слобода также была известна как Пичуга или Нижняя Пичуга. В XVIII веке при речке Пичуге располагались Пичужинские хутора и сады. В конце XVIII — начале XIX века началось заселение крестьянами из внутренних губерний. В 1812 году здесь насчитывалось уже 100 дворов и 270 ревизских душ. В 1816 году прибыли поселенцы из Курской губернии. Затем население слободы пополнялось выходцами из Рязанской, Орловской, Пензенской и Тамбовской губерний. Заселение завершилось в 1842 году. Ко времени прекращения заселения Ерзовка имела 289 дворов, в них проживало 1014 душ мужского и 989 женского пола. В 1867 году Ерзовка стала центром Ерзовской волости Царицынского уезда Саратовской губернии[2]. В 1872 году открыта школа, в 887 году — земское училище. В 1896 году имелось уже 692 двора, в которых проживало 3876 человек[3].
В конце XIX века жители занимались преимущественно хлебопашеством и чумачеством, во многих дворах имелись сады. Развитию чумачества способствовало расположение села на Саратовско-Астраханском тракте. В 1894 году в селе имелось 6 водяных и 17 ветряных мельниц, несколько бакалейных, мануфактурных и мелочных лавок, 4 маслобойни, 7 кузниц[4]
7 сентября 1918 года приказом № 62 Военного совета Северо-Кавказского военного округа была создана Царицынская губерния с Царицынским уездом в её составе[6].
В 1928 году Ерзовка вошла в состав Сталинградского района Сталинградского округа Нижневолжского края (с 1934 года — Сталинградский край). В 1935 году село включено в состав Песчанского района (с 1938 года — Городищенский район) Сталинградского края[7] (с 1936 года — Сталинградской области, с 1961 года — Волгоградская область). C 1963 по 1977 год Ерзовский сельсовет входил в состав Дубовского района[8].В 1964 году при разрушении хутора Акатовка жители этого хутора переселились в Ерзовку.
Ерзовка расположена на северо-западе Городищенского района в степной зоне в пределах Приволжской возвышенности, относящейся к Восточно-Европейской равнине, на берегах реки Пичуга и Ерзовского залива Волгоградского водохранилища[9], на высоте около 30 метров над уровнем моря. Рельеф местности холмисто-равнинный, осложнён балками и оврагами. Близ посёлка находится насосная станция Городищенского канала[9]. Почвы — каштановые солонцеватые и солончаковые. Почвообразующие породы — глины и суглинки[10].