Родился в семье крепостных князя А. М. Черкасского, позже отошедших к графу Петру Борисовичу Шереметеву в качестве «приданого» его жены Варвары Алексеевны. Воспитывался в семье дяди, С. М. Аргунова.
Учился портретной живописи у своего двоюродного брата Фёдора Леонтьевича Аргунова, а также у иностранных мастеров. Под руководством своего учителя Георга Христофора Гроота создал иконы для церкви Екатерининского дворца в Царском Селе.
Аргунов, помимо живописного, имел и педагогический талант. По приказанию императрицы Елизаветы Петровны, к нему были отданы «в ученье художеству» придворные певчие, потерявшие голоса: А. П. Лосенко (директор Академии художеств), К. И. Головачевский (инспектор Воспитательного училища Академии), И. С. Саблучок (Саблуков) (академик). Живописи обучал он также и крепостных графа Николая Петровича Шереметева из села Белого Кашинского уезда[2].
Обучал И. П. Аргунов и собственных сыновей: Павла, ставшего архитектором, и Якова и Николая, будущих живописцев.
В 1750 году молодой художник пишет парадный «Портрет князя И. И. Лобанова-Ростовского», а в 1754 парный к нему «Портрет княгини Е. А. Лобановой-Ростовской»[4] Одна из ранних работ Аргунова — «Умирающая Клеопатра» (1750), написанная в стиле академического рококо[5].
Автор целого ряда превосходных парадных и камерных портретов. Известность Аргунову принесли портреты петербургской знати, например, П. Б. Шереметева. Художник не идеализирует внешность модели, он смело передаёт и косящие глаза, и некоторую одутловатость лица. При этом обращает на себя внимание мастерское владение художником кистью в передаче фактуры, изысканность теней.