27 апреля 1872 года на заседании муромского городского общества было зачитано обращение члена городской думы Фёдора Дмитриевича Зворыкина на имя городского головы П. С. Зворыкина в котором он поднимал вопрос о низком качестве существующего на тот момент в городе образования и предлагал учредить в Муроме прогимназию.
12 сентября 1872 года гласным городской думы Сергеем Фроловичем Симоновым внимание членов думы было обращено на то, что 15 мая 1872 года в России был утверждён устав реальных училищ, более соответствующих потребностям провинциальных городов. После обсуждения вариантов финансирования нового учебного заведения, городской голова П. С. Зворыкин 12 марта 1873 года ходатайствовал перед попечителем Московского учебного округа и владимирским губернатором Владимиром Николаевичем Струковым о возбуждении ходатайства перед министерством народного просвещения об открытии в городе реального училища. 3 октября 1873 года заместитель министра И. Д. Делянов сообщил о положительном решении министерства. 23 апреля 1875 года императором Александром II было утверждено мнение Государственного совета об открытии в Муроме шестиклассного реального училища с отпуском на его содержание из государственного казначейства 14,6 тысячи рублей в год.
С 1875 по 1880 год училище размещалось в арендованном у купца М. А. Каратыгина доме. Открытие учебного заведения состоялось 1 октября 1875 года. Набор в первый и второй класс училища проходил с 10 по 16 сентября. В первый класс было принято 26 учеников, во второй — 12 человек (при конкурсе 4 человека на место). Несколько студентов были переведены из других учебных заведений — из Елатомской и Самарской мужских гимназий. Преподавание осуществляли пять человек.
17 июня 1876 года в Муром был направлен архитектурный проект, выполненный архитектором Московского учебного округа Н. П. Дилекторским (1843—1912).