Первый «сухопутный пароход» (так в то время называли паровозы) был построен летом 1834 года на Выйском заводе Ефимом и Мироном Черепановыми; там же в марте 1835 года был построен и второй. Однако при влиянии подрядчиков конского извоза у владельцев Нижнетагильских заводов идея применения локомотивной тяги не нашла поддержки. На Царскосельской (открыта в 1837 году) и Варшаво-Венской (1845 год) железных дорогах первые паровозы были уже импортного производства.
Серийное производство паровозов в России первым начал расположенный в Санкт-Петербурге Александровский завод, который стал выпускать тяговый подвижной состав для Санкт-Петербурго-Московской железной дороги с 1845 года. Это были товарные локомотивы типа 0-3-0, (позже получившие обозначение Д) и пассажирские типа 2-2-0, (В); некоторые товарные паровозы позже были переделаны в тип 1-3-0 (впервые в мире!), а два пассажирских (серия А) — в тип 3-2-0. В 1851 году паровозостроение было начато на Лейхтенбергском заводе, но завершилось уже в 1858 году; всего им было построено 17 локомотивов, включая 2 для Царскосельской дороги. Для тяги грузовых поездов поначалу строились локомотивы с тремя движущими осями типа 0-3-0, но в 1858 году Александровский завод выпустил первые паровозы уже типа 0-4-0 (серия Е) — раньше, чем в Англии, Бельгии и Пруссии; однако данный тип на тот период не получил широкого распространения. Для пассажирской службы строились локомотивы с двумя, реже одной движущей осью — типы 2-2-0, 1-2-0 и 1-1-1.
Паровозы того периода имели двухцилиндровую паровую машину, работавшую на насыщенном паре. В 1861 году Министерство путей сообщения издало распоряжение, согласно которому на всех паровозах русских железных дорог площадки вокруг котла стали ограждаться железными перилами, а будки уширялись и начали оборудоваться дверьми для выхода на эти площадки; так постепенно стал формироваться облик русских паровозов. При этом стоит отметить, что до 1868 года российские заводы выпустили только 227 паровозов, и в значительной степени потребности дорог в локомотивах покрывались за счёт импорта.
В 1866 году было принято решение о расширении паровозостроения на российских заводах, однако фактически оно началось выполняться только в 1869 году, когда свои первые локомотивы выпустили Камско-Воткинский и Коломенский заводы, а в следующим году подключились Мальцевский и Невский. Данные заводы поначалу строили пассажирские паровозы типа 1-2-0 и грузовые типа 0-3-0 импортной конструкции. Причём наиболее популярной оказалась конструкция прусских заводов Borsig («Борзиг»), имевшая укороченную колёсную базу, а топка располагалась за движущими колёсными парами. Также выпускались в небольшом количестве и паровозы с топкой между движущих осей, однако эта конструкция не сыскала популярности, хотя часть таких локомотивов была передана в запас Департамента железных дорог.