Первая группа «Поалей Цион» на территории России образована в 1900—1901 гг. в Екатеринославе по инициативе еврейских публицистов Бера Борохова и Шимона Добина. В 1901—1902 гг. организации «сионистов-социалистов Поалей Цион» возникли в Варшаве, Вильно, Витебске, Двинске, Одессе и других городах Российской империи. Первоначально эти формирования не имели определённой программы и организационных связей друг с другом. Некоторые из этих организаций объявляли себя марксистскими, другие — народническими; ряд поалейционистов заявили, что стоят на позициях «ортодоксального марксизма», другие — отдавали предпочтение центризму или ратовали за социал-реформизм. Значительная часть групп выступала за создание самостоятельного еврейского государства в Палестине, меньшее число считало возможным создание своего государства в Кении или Месопотамии и только в последнюю очередь в Палестине. Лидеры левого крыла в сионизме прилагали усилия для выработки теоретической платформы «пролетарского сионизма» и создания самостоятельной сионистской «рабочей партии». На основе кружков «Поалей Цион» в 1904-06 годах в России были созданы партии — Сионистско-социалистическая рабочая партия, Социалистическая еврейская рабочая партия, Еврейская территориалистическая рабочая партия.
В августе 1905 года поалейционисты-палестинофилы на конференции в Цюрихе объединились в Еврейскую социал-демократическую рабочую партию. В декабре 1905 году на конференции организаций «Поалей Цион» Юго-Западного края в Бердичеве произошёл раскол на почве понимания вопроса национальной автономии в диаспоре. В результате раскола часть групп (так называемая «сеймовцы») образовали СЕРП. Так называемые ортодоксы (во главе с Бороховым), главное своё внимание уделявшие сионизму и признававшие национальную автономию в галуте (жизнь евреев вне «земли предков») второстепенной задачей, созвали в феврале 1906 года в Полтаве Всероссийский съезд и подтвердили наименование Еврейская социал-демократическая рабочая партия «Поалей Цион».