Здание музея было построено в 1880-х годах. Автор проекта неизвестен, однако известно, что дом строился для городского головы Владимира Вербовского. К 1919 году здание служило помещением для Городской Думы и Управы.
Первый этаж здания сдавался в аренду магазину и типографии, на втором размещались выставочные залы. Фасад здания сохранился до наших дней в аутентичном виде за исключением пожарной вышки на крыше. Интерьер неоднократно менялся.
В 1933-1938 годах здание было занято строительным техникумом, который в частности закончил известный поэт-песенник Михаил Матусовский[1] (в музее есть зал его имени[2]). После войны здание было передано краеведческому музею.
В июле 2014 года здание музея пострадало в результате обстрела города украинскими войсками и попадания снаряда в окно второго этажа. Из-за взрыва пострадали фасад и внутренние помещения[3].
Музей создан в 1980 году, как музей Климента Ворошилова. Коллекция насчитывала около 36 тыс. экспонатов[4], принадлежавших семье Ворошиловых.
Главная экспозиция под названием «Старый Луганск» охватывает период с года основания города (1795) до Октябрьской революции 1917 года. Она представлена продукцией Луганского литейного завода, предметами быта конца XIX — начала XX веков, уникальными документами и фотографиями дореволюционного города.