Село расположено на северо-востоке Воронежской области рядом с одноимённой рекой Терновкой, которая протекает через село на его востоке и двумя искусственными водоёмами прудом Пятнадцатый и Новый пруд, которые находятся на северо-востоке села. Так же через село проходит железная дорога, которая формально разделяет его на "центр" и "за линией". Центром считается направления от улицы Советская, а за линией Первомайская и как не трудно догадаться железная дорога проходит примерно между этими улицами. Советская улица является основоположницей строительства гражданских объектов на территории села. Первомайская улица гораздо старше Советской улицы, считается от неё и пошла Терновка.
История Терновки (Борисоглебский уезд ,Тамбовская губерния) начинается с истории небольшого села с одноимённым названием. «Село основали в 1730 году свободные крестьяне. Они назвали себя вольными хлебопашцами. Вскоре рядом с ними поселился помещик – майор Никита Васильевич Новосильцов – и построил господский дом. Появилась и группа его крепостных крестьян. Откуда не известно. Может быть, он перевёл их сюда из других своих владений. А может быть, обратил в крепостных некоторых обедневших вольных хлебопашцев. По данным «ревизских сказок» 1763 года население Терновки составляло 150 человек. В 1766 году майор Новосельцев умер. Его имение досталось многочисленным наследникам. После этого «ревизские сказки» в числе владельцев отдельных групп крепостных крестьян называют двух Пановых, двух Кондоуровых, Окорокова и Цыплятева». На старинных картах на месте нынешней Терновки имелись такие надписи: Терновка, Крестовоздвиженское, Новосильцово, Паново [2]. В этих названиях (кроме первого и второго) – фамилии мелких захудалых помещиков.[3]
В Тамбовском и Борисоглебском архивах документов о селе сохранилось мало. Большинство исследователей истории села опираются на свидетельства «Епархиальной ведомости по истории сёл Тамбовской епархии», сохранившейся в Тамбовском архиве. Она датируется 1889 годом. Копия данного документа хранится в районной библиотеке. История Терновки составлена дьяконом Павлом Цоптаевым. По словам священнослужителя, происхождение наименований села самое естественное: Новосильцовым село именовалось по фамилии барыни-владелицы, вдовы майора Евдокии Фёдоровны Новосильцовой. После её смерти село унаследовала её дочь, в замужестве Евдокия Никитовна Панова.[3]
Второе название - Крестовоздвиженское, появилось потому, что храм села был освящён в честь Воздвижения честного и животворящего Креста Господня. Название Терновка появилось в народе следующим образом: на краю села протекает небольшая речка, берега которой поросли зарослями дикого тёрна. Речку прозвали Терновкою, в XIX веке за селом закрепилось именно это название.[3]