В августе 1905 года Игнац Андрш (чеш. Ignác Andrš), Фридрих Горта (чеш. Fridrich Horta), Фридрих Елинек (чеш. Fridrich Jelínek), Павел Полачек (чеш. Pavel Poláček) и Франтишек Златник (чеш. František Zlatník) арендовали у помещиков Броцкого и Крауса земельные участки в долине притока реки Чичиклеи в Ананьевском уезде Херсонской губернии, где основали село Богемка. Часть из них вместе с семьями прибыла из польского города Зелюв, а другая часть — из Чехии.
В 1906 году, когда в Богемку прибыл проповедник Вилем Рейхрт (чеш. Vilém Rejchrt) с семьёй, в селе была организована реформированная евангельская религиозная община.
В 1907 году была построена землянка для школы с чешским языком обучения. По воскресеньям в школе проводились богослужения. В этом же году началось строительство домов, которые заменили землянки. Первым был построен дом Павла Полачека, который позже стал первым старостой деревни.
В 1909 году было основано христианское общество «Гус», которое, однако, не было зарегистрировано губернатором Херсонской губернии.
В 1910 году в Богемке проживало уже 40 семей. В селе возникла кузница, первым кузнецом которой стал Эмил Янчик (чеш. Emil Jančík).
В 1912 году выходцы из Богемки и Зелёного Яра основали село Веселиновка (укр. Веселинівка), которое сейчас относится к Березовскому району Одесской области. Среди жителей Богемки за Веселиновкой закрепилось название Сиротинка. Достоверно, так же известно, из актовых записей ЗАГСа, что в Одесской области, Березовского района был хутор Чехи (еще его называли между собой Чешская компартия). Может именно этот хутор стал в дальнейшем Веселиновкой.