Гремячий Колодезь расположен на правом берегу реки Ведуги. Автодорога на Семилуки через Латную и на Нижнюю Ведугу.
Село получило своё название от слов «гремячий» и «колодезь» (колодец). «Гремячий» означает журчание воды ручья, а «колодезь» — ручьи, которые вытекают из родников[2]