В 1631 году по повелению шведского короля Густава Адольфа в Ревеле, в помещениях, принадлежавших женскому монастырю Святого Михаэля, была открыта четырёхклассная гимназия. первоначально в ней было четыре «профессора» и двое «коллег» — преподавателей младших классов. Ректор избирался из числа профессоров и первым стал Сигизмунд Эвениус, бывший ректор Магдебургской гимназии. В 1651 году гимназия получила название: Шведская королевская гимназия. Переводные испытания в гимназии проводились перед Пасхой.
После того, как в 1710 году Ревель стал российским, гимназия продолжала существование. Хотя в это время из преподавателей остался только один — ректор гимназии Иоганн Рудольф Брем, который и занимался всеми предметами с тремя уцелевшими учениками. В двух старших классах стал преподаваться русский язык. Только спустя 17 лет гимназия восстановила полный комплект классов и преподавателей. А ещё спустя три года умер, руководивший гимназией 47 лет, Иоганн Брем. С 1725 года гимназия стала называлась Городской, а через несколько десятилетий — Императорской Академической гимназией. Первым, русским по происхождению, преподавателем гимназии стал в 1785 году прапорщик Шелаванов. Но языком преподавания в гимназии оставался латинский язык, что ограничивало число учащихся. К 1742 году было построено новое здание гимназии. В 1745 году был открыт пятый, приготовительный класс. К середине 1770-х годов штат преподавателей увеличился до 8—10 человек.
После открытия Дерптского университета, учреждённая при нём училищная комиссия в 1804 году провела ревизию гимназии. С этого момента Педагогический совет гимназии более не подчинялся городской коллегии, а Дерптской училищной комиссии.
В 1805 году вместе с новыми правилами появилось новое название: Ревельская губернская гимназия. В состав новой гимназии вошли прежние три старших класса; два младших были выведены в уездное училище. Директором был назначен Тидебёль, которого в 1819 году сменил барон Штакельберг. В 1820 году гимназия вновь получила «пять классов с годичным курсом». Кроме директора по штату полагалось 7 преподавателей старших классов (Oberlehrer) и пять учителей наук низших классов (wissenschaftliche Lehrer). С 1820 по 1843 год существовала двенадцатибальная система отметок. В 1834 году была введена форменная одежда учеников. В 1843 году, 20 ноября, состоялось торжественное освящение нового здания гимназии.
Первоначально, уроки Закона Божьего были обязательны только для учеников-лютеран; первый православный законоучитель, протоиерей Пенинский, появился в 1835 году.
В 1834 году директором стал барон Росильон. В 1849 года его сменил Г. Л. Гальнбек, местный уроженец, получивший образование в Дерптском и Йенском университетах. Он руководил гимназией 29 лет.