Старший сын винного откупщика Гаврилы Васильевича Рюмина (1752—1827) от первого брака на вдове купца Черенкова, Степаниде Федоровне. Остальные дети, в том числе Василий, были от второго брака, на дочери московского купца, Екатерине Ивановне Макаровой.
В службе числился с 15 февраля 1806 года; в 1820 году награждён орденом Св. Владимира 4-й степени; в 1822 году служил в Экспедиции Государственных доходов и в 1831 году получил бриллиантовый перстень с вензелем Императора Николая I; 5 августа 1839 года, будучи почётным попечителем Рязанской губернской гимназии, был произведён в статские советники, а 25 августа 1840 года пожалован в звание камергера. Затем последовательно получил чины действительного статского советника (1848) и тайного советника (1863).
С 1833 года был членом Московского общества сельского хозяйства, в истории которого упоминается о том, что в 1837 году Рюмин занимался улучшенным овцеводством. С 1862 года — президент Российского общества любителей садоводства в Москве, а с 1870 года ещё и президент рязанского общества сельского хозяйства.
Н. Г. Рюмин стал основным наследником и продолжателем благотворительной деятельности отца. В 1833 году он приобрёл у А. Д. Балашова имение Кучино. Рюмин находился в родственных отношениях с женой Л. Н. Толстого (сестра жены Льва Толстого, Елизавета Андреевна Берс, была замужем за племянником Н. Г. Рюмина, флигель-адъютантом Г. Е. Павленковым[1]), и писатель бывал в этом имении, приезжая по железной дороге на станцию Обираловку[2]. Н. Г. Рюмин приобрёл в Рязани двухэтажный дом для перворазрядного женского училища, позднее преобразованного в Мариинскую женскую гимназию.
В 1845 году его имение состояло из 2830 душ, каменного дома в Рязани и 700 душ благоприобретенных; за женой с 1841 (1831 ?[1]) года был каменный дом в Москве, на Воздвиженке, д. № 9. Ему принадлежало большое число деревень в Московской губернии: Алексунино, Андроново, Большой Двор, Борисово, Буньково, Васильева, Васютино, Вострикова, Гаврилова, Гаврина, Грибнино, Дуброва, Заозерье, Зуево, Карабанова, Кузнецы, Михалево, Нажицы, Насырево, Никулино, Ожерелки, Понкратово, Семернино, Тарасово (в Богородском уезде), Алексино, Новинки, Симбухово и Тютчево (в Верейском уезде); было у него также имение «Рюмина Роща» и в Рязанской губернии, описанное в романе Всеволода Крестовского «Большая Медведица»; в числе крепостных Рюмина был Савва Васильевич Морозов, выкупившийся на волю с четырьмя сыновьями за 17 тысяч рублей[1]. Наряду с сыновьями С. В. Морозова был пайщиком Московского купеческого банка[3].
Погребён в Троице-Сергиевой лавре, вместе с женой. После смерти Н. Г. Рюмина имение Кучино было куплено известным миллионером Алексеевым (его сын был в Москве городским головою) и полностью перестроено.