Родился, вероятно, в Виченце, но некоторые считают его уроженцем Виаданы. Провёл, как утверждал сам, часть своих ученических лет в Модене, служа при местном дворе.
До 1657 года покинул Модену и стал капельмейстером в соборе Реджо-нель-Эмилия. Был органистом в Церкви Святых Иоанна и Павла в Венеции, сменив ноябре 1664 года Массимилиано Нери, но пробыл там недолго: в мае 1667 году его фактически уволили за неоднократные отлучки. Работал в различных, не только итальянских, городах (Инсбрук, Вена и, вероятно, Дрезден).
Также известен благодаря тому, что религиозные тексты на иврите стали речитативными в стиле Клаудио Монтеверди, как, например, в его «Кантате Эбраике» в Диалоге, работе, выполненной по заказу Гросси (который сам был язычником) относительно свободной и зажиточной еврейской общины Модены. Эта работа, вероятно, предназначалась для исполнения непрофессиональным хором (хоровые партии относительно просты, предполагающие преднамеренную адаптацию к способностям менее искусных музыкантов) с оперными солистами профессионального уровня.
Считается, что Гросси был первым композитором, использовавшим термин «дивертисмент» (в своем сочинении 1681 года «Il divertimento de' grandi musiche da camera, ò per servizio di tavola»).