Представитель дворянского рода Пушкиных. Второй сын воеводы Михаила Фёдоровича Пушкина (ум. 1607). Братья — Евстафий, Никита, Леонтий и Иван Меньшой.
В 1574—1583 годах — ловчий царя Ивана Грозного. В 1577—1578 годах участвовал походе русской армии на Ливонию.
В 1582 году И. М. Пушкин, получивший титул наместника рязанского, ездил в Варшаву вместе с дворянином князем Дмитрием Петровичем Елецким, чтобы взять с польского короля Стефана Батория присягу в соблюдении условий русско-польского мирного договора.
В 1586 году Иван Михайлович Большой Пушкин сопровождал из Москвы в Астрахань приехавшего крымского царевича Мурад Герая. В 1591 году — второй воевода в Астрахани при первом воеводе, князе Иване Васильевиче Сицком.
В 1594 году вместе с князем Лукой Осиповичем Щербатовым встречал посольство германского императора Рудольфа II. И. М. Пушкин и Л. О. Щербатов также были приставами при послах.
В 1598 году Иван Михайлович Пушкин подписал соборное постановление об избрании на царский престол Бориса Фёдоровича Годунова.