Мистакон был фракийского происхождения. Прозвание Мистакон («усатый») Иоанн получил за свои длинные усы. Имел титул патрикия, возглавлял византийские войска в Армении в 579 году. Сменил Маврикия на посту военного магистра Востока в 582 году, когда Маврикий был вызван в Константинополь императором Тиверием II, где затем 14 августа того же года принял императорскую власть. Неудачно вел войну с персами на восточной границе, и поэтому в 584 году был смещен со своего поста и заменен зятем императора Филиппиком.
В 585 году Иоанн Мистакон воевал против авар, дошедших в грабительском набеге до стен столицы, и сумел отогнать их. В 590 году Иоанн командовал осадой города Двин в персидской части Армении, но изменившаяся политическая ситуация заставила его снять осаду и отвести войска из Ирана. После этого, по приказу императора Маврикия, Иоанн участвовал в войне византийцев на стороне законного иранского шаха Хосрова II против мятежного персидского полководца Бахрама. В битве на реке Баларате, притоке Тигра, в 591 году объединенные византийские армии Иоанна Мистакона и полководца Нарсеса в союзе с персидскими отрядами Хосрова II разгромили в упорной битве войско Бахрама.