Воронежская губернская мужская гимназия была открыта 17 января 1809 года путём преобразования главного народного училища, существовавшего в Воронеже с 22 сентября 1786 года.
С 1822 по 1853 год Воронежская гимназия размещалась на участке бывшей усадьбы воронежского губернатора А. Б. Сонцова на Большой Девиченской улице (ныне Улица Сакко и Ванцетти, д. 102[1]).
В 1834 году в гимназии были проведены преобразования по Уставу 1828 года: гимназия стала семиклассной; введена должность инспектора — первым инспектором стал (1834—1837) Александр Яковлевич Кронсберг; появились почётные попечители — первым почётным попечителем дважды (1834—1841) избирался дворянин Дмитрий Иванович Тулинов.
В 1856—1859 годах в начале улицы Большой Дворянской улицы (ныне проспект Революции) для Воронежской гимназии по проекту архитектора А. А. Тона было выстроено новое здание, в котором гимназия находилась до 1917 года[2].
С августа 1865 года в соответствии с новым уставом 1864 года гимназия стала классической с одним древним (латинским) языком. В 1871 году было добавлено изучение греческого языка и гимназия стала в полном объёме считаться восьмиклассной классической. В 1868—1878 годах при гимназии существовали двухклассные педагогические курсы, преобразованные затем в учительскую семинарию.
В числе педагогов гимназии был историк Г. М. Веселовский (1859—1864) и родоначальник знаменитой музыкальной династии В. Г. Ростропович.