Начало организации музеев в России положил Пётр Великий, повелевший доставлять в Кунсткамеру всё, что «зело старо и необыкновенно»[1]. В первом номере газеты «Орловские губернские ведомости» от 7 (19) января 1838 года сообщалось об открытии к приезду наследника престола Великого князя Александра Николаевича выставки. 19 (31) августа 1837 года Великий князь осмотрел выставку и, выразив своё удовлетворение, наградил первого её хранителя П. А. Азбукина бриллиантовым перстнем[2][3].
7 (19) декабря в час дня 1897 года, после проведения молебствия и окропления святой водой протоиереем Михаилом Смирновым, Орловская учёная архивная комиссия, учреждённая в 1884 году, осуществила открытие Орловского губернского музея. В музейной книге отзывов есть запись об этом событии: «Лета 1897 года – декерия 7-го дня в царствование императора Николая II начальником губернии камергером А. Н. Трубниковым открыт основанный им Орловский музей при губернской ученой архивной комиссии ...». Открывшийся музей разместился в здании присутственных мест в помещении губернского правления, которое находилось на углу улицы Садовой (сегодня ул. М. Горького) и Свербеевского переулка (рядом с улицей Ермолова). Под помещения музея было выделено три комнаты[2]. Здание бывшего музея не сохранилось. Дары в музей поступали в основном от частных лиц и в первую очередь от членов Орловской учёной архивной комиссии. В музей были переданы: кольчуга (2 шт.), древнегреческая амфора, копьё, коллекции монет, изделия из кож, стекла, хрусталя, археологические находки, государственные документы. Многое передали служители церкви: кресты, складни, иконы, книги. Была передана икона Богородицы Троеручицы Белобережской. В газете «Орловские губернские ведомости» поимённо перечислялись 73 орловца, передавших в дар музею различные реликвии. Среди сохранившихся до сегодняшнего дня реликвий — кости ископаемых животных, рог носорога и «кресло Екатерины Великой»[4][5][6].
Каждый посетитель мог оставить свою подпись в книге отзывов, которую изготовили специально в Москве в Синодальной типографии в старорусском стиле с золотым обрезом и бронзовой оковкой с застёжками. Сохранившаяся до наших дней первая книга отзывов является бесценным раритетом в фондах музея[7][8].
Структурно в музей входило из двенадцать отделов: географический, археологический, естествознания, этнографический, церковно-исторический, архивный, народного образования, сельскохозяйственный, промышленный, научный, литературный и художественный. Впоследствии дополнили военно—исторические коллекции. Музеем создавались коллекции, связанные с жизнью и творчеством писателей и поэтов орловского края: И. С. Тургенева, Н. С. Лескова, И. А. Бунина, А. А. Фета и др[2][6][9][10].