Он был одним из первых участников Boyz II Men , еще посещая Высшую школу исполнительских искусств Филадельфии. Однако соглашение с руководством вынудило Нельсона покинуть группу, чтобы заняться сольной карьерой, прежде чем группа выпустила свой дебютный альбом Cooleyhighharmony.
Услышав по радио песню New Edition «Boys to Men», группа сменила название на Boyz II Men . В 1989 году группа встретила Майкла Бивинса и начала договариваться о подписании контракта с крупным лейблом и начале записи. Тем временем группа столкнулась с задержками в записи альбома. До того, как Бивинс обнаружил их, все участники ранее подписали соглашение об управлении с местной компанией в Филадельфии. Марк Нельсон, которому на тот момент было 18 лет, столкнулся с трудностями при разрыве контракта с этой компанией из-за своего возраста. Все остальные участники были несовершеннолетними. После того, как все было улажено с Boyz II Men и Motown, Нельсон все еще не мог освободиться от своего предыдущего руководства, что вынудило его сделать выбор в пользу сольной карьеры вместо продолжения работы в группе. Его сольный альбом I Want You был выпущен всего через несколько месяцев после Cooleyhighharmony в сентябре 1991 года.
После подписания сольного контракта с Capitol Records Нельсон стал хитом с кавером на песню Марвина Гэя « I Want You », который занял 26-е место в R&B-чартах. [ когда? ] Его следующий альбом "Count On Me" достиг 48-го места в чартах R&B. [ когда? ] Нельсон выпустил свой сольный альбом I Want You в 1991 году.
После выпуска своего сольного альбома Нельсон начал концентрировать свои таланты как автор песен. Привлекая внимание Babyface , Нельсон писал для таких художников, как Тони Брэкстон , Брэнди , Тамиа , Тайриз и Джон Б. Через Babyface Нельсон познакомился с четырьмя участниками группы Az Yet и был добавлен в состав в качестве второго ведущего вокалиста; группа подписала контракт с LaFace Records .
Будучи членом Az Yet , Нельсон добился успеха. Одноименный дебютный альбом группы, выпущенный в 1996 году, стал платиновым . Сингл с альбома "Last Night" стал золотым и достиг 9-го места в чарте Billboard Hot 100 . Их второй сингл «Hard To Say I'm Sorry» стал еще лучше, став платиновым и достигнув 8-го места в Hot 100 .
Нельсон покинул Az Yet и начал интенсивно писать. Впоследствии он выпустил свой второй сольный альбом Chocolate Mood в 1999 году. В альбом вошел самый большой сольный хит Нельсона «15 Minutes», который достиг 4-го места в чартах R&B и 27-го места в Billboard Hot 100 . Он также участвовал в дуэте «After All is Said and Done» с Бейонсе в саундтреке к фильму «Лучший мужчина» (1999).