В начале XIX века улица была названа Магистратской по расположенному здесь магистрату — органу городского сословного управления, первому каменному общественному зданию Томска. В целом улица носила торговый характер, имелись только мелкие производства, несколько гостиниц, учебные заведения. Улица была местом жительства и отдыха состоятельных граждан.
Домом №1 владели содержатели питейных откупов Томской губернии Н. Г. Рюмин, И. Ф. Базилевский, Д. Е. Бернадаки (до 1864 года), с 1882 года — управляющий золотыми приисками И. Д. Асташева М. М. Самохвалов. В открытой здесь в 1872 году гостинице «Европейская» в 1888 году Г. И. Успенский. В 1901 году гостиница переехала в соседние дома — 3 и 5.
На месте дома №30 находилось строение, пожертвованное Кухтериными для открытия в нём Коммерческого училища (1901). В 1904 году училище переехало на Воскресенскую гору.
В 1903 году на углу с Карповским переулком был заложен храм во имя Сретения Господня, оконченный строительством в 1907 году, с отделкой приделов в 1908—1909 годах. В храме служил родной брат писателя Д. Мамина-Сибиряка Николай Мамин.
Современное название улица получила 14 мая 1920 года в честь видного деятеля международного рабочего движения Розы Люксембург (1871—1919).
После 1917 года здание магистрата занял комсомольский клуб, библиотека, затем — прокуратура, за ней — исполком Ленинского района. В 2003 году находящееся в аварийном состоянии здание разобрали и возвели заново, в нём разместился отель «Магистрат» и ресторан «Пармезан»[1]. Во время российско-германского саммита 2006 года[2] в отеле останавливались члены правительства Германии, в том числе канцлер А. Меркель.