История гимназии началась в 1875 году, когда в Рыбинске была открыта четырехклассная прогимназия. Для неё городская дума арендовала жилой дом купцов Щербаковых на улице Крестовой[1]. Директором был назначен А. А. Захарбеков. В 1877 году появились пятый и шестой классы. Количество учеников прогимназии не превышало 200 человек. Статус гимназии был присвоен в 1884 году, когда количество классов увеличилось до восьми; первый гимназический выпуск состоялся в 1890 году. Для размещения седьмых и восьмых классов справа и слева от основного здания были сделаны большие пристройки. В 1885 году директором гимназии был назначен инспектор Нижегородской мужской гимназии Павел Павлович Стеблов, прадед Е. Ю. Стеблова. В 1893 году со двора к зданию гимназии был пристроен манеж для занятий физкультурой. В 1899 году в гимназии была освящена домовая церковь во имя великомученицы Татьяны.
См. также Выпускники Рыбинской гимназии
В. П. Пушков отметил очень высокое отношение количества выпускников из Рыбинской гимназии к гимназистам из губернской гимназии: 198:310 = 0,64. Ни в одном из других регионов уездные училища не приближались так близко к губернским (например, Елецкая и Орловская гимназии 337 : 620 = 0,54; Вяземская и Смоленская гимназии 296:639 = 0,46)[2]