Происходил из небогатой дворянской семьи, сын Алексея Михайловича Милютина (1780—1846) и Елизаветы Дмитриевны, урождённой Киселёвой — сестры графа П. Д. Киселёва. Брат Дмитрия, Бориса[3] и Николая Милютиных.
В 1843 году окончил 1-ю Московскую гимназию[4]. Затем учился в Московском и Санкт-Петербургском университетах, окончив в 1847 году юридический факультет Санкт-Петербургского университета[5].
В 1850 году получил степень магистра государственного права и был назначен адъюнкт-профессором Санкт-Петербургского университета. Его диссертация «О недвижимых имуществах духовенства в России» — напечатана после смерти автора в «Чтениях в Московском обществе истории и древностей российских», 1859—1861 и отдельным изданием (М., 1862) — обратила на молодого учёного всеобщее внимание как труд, проливавший много света не только на вопрос о вотчинных правах церкви в древней России, но и на церковное управление и на отношение церкви к государству. Милютин держался историко-сравнительного метода. Его лекции привлекали слушателей со всех факультетов; он читал, что было тогда редкостью, наизусть, без тетради.
В 1843 году[уточнить] он был избран действительным членом Географического общества и взял на себя должность производителя дел в отделении статистики; в 1852 году стал секретарём общества и редактором его «Вестника». Под редакцией Милютина программа «Вестника» была сильно расширена. По поручению общества Милютин вместе с Заблоцким совершил в 1849 году поездку в западные и южные губернии России для исследования некоторых отраслей отечественного хозяйства; эта поездка дала ему мысль положить начало исторической статистике России, но смерть помешала как этой работе, так и окончанию докторской диссертации «О Дьяках», над которой он работал последние годы. Усиленные занятия рано подточили слабое здоровье Милютина; сюда присоединилась ещё неизлечимая тоска из-за оказавшегося недостижимым личного счастья (см. «Университетские воспоминания» Ф. Н. Устрялова, «Исторический вестник». — 1884. — № 6), и Милютин, тщетно искавший облегчения от страданий на водах за границей, застрелился (5 (17) августа 1855).