В середине 1990-х Бьорн Диксгорд и первый клавишник Mando Diao Даниэль Хаглунд основывали свою первую группу, которая называлась Butler, а в 1999 году была переименована в Mando Diao. Название группы, по словам самих музыкантов, не имеет определённого смысла — по словам Диксгорда, ему однажды приснился странный человек, который бежал ему навстречу и кричал «Мандо Диао». В 1996 к группе присоединился Густав Норен (вокал, гитара), а в 1999-м - Карл-Юхан Фогельклу (бас-гитара) и Самюэль Йирс (барабаны), тем самым образовав классический состав Mando Diao.
В первые годы после своего основания группа играла в многочисленных клубах по всей Швеции, заполучив первых поклонников. В 2001 году земляк Mando Diao модератор MTV-Швеция Томми Гэрд услышал их музыку и предложил группе контракт с фирмой EMI.
Дебютный альбом Bring 'Em In, вышедший в сентябре 2002 года, получил хорошую критику, а ставшая титульной песней на одноимённом сингле Sheepdog — национальным хитом. Своеобразные гитарные рифы и мелодии в стиле 1960-х и 1970-х годов понравились многим фанатам группы, а хорошо поставленные голоса обоих фронтменов были оценены даже самыми строгими специалистами.
После коммерческого успеха Mando Diao вместе с другими местными группами, например The Hellacopters или Kent гастролировали по Швеции и скандинавскому зарубежью. В 2003 году группа перешла на другой уровень — международный. Благодаря песне Lady, которая была выбрана компанией мобильной связи E-Plus в качестве саундтрека для своей рекламы, Mando Diao получили известность во многих странах Европы. В марте 2004 года альбом Bring 'Em In поступил в продажу не только на родине музыкантов, но и в других европейских странах.
В течение года группа все больше приобретала популярность в Европе. Изданный ранее в Швеции альбом Hurricane Bar вышел в январе 2005 года в Германии и быстро стал подниматься со строчки на строчку в хит-парадах. Развивая успех, Mando Diao в конце 2004-го — в начале 2005 года сыграли многочисленные концерты по всему континенту. Кроме того, молодая группа была приглашена на известные рок-фестивали, такие как Hurricane, Southside, Rock Am Ring, Rock im Park, MTV Campus Invasion и Sziget. 25 августа 2006 года в продажу поступил третий студийный альбом Ode To Ochrasy. Альбом понравился фанатам и критикам, кроме того, он был признан лучшим шведским альбомом всех времен.
Гитарист и вокалист Густав Норен является братом Виктора и Карла Норенов, основателей другой шведской рок-группы Sugarplum Fairy. В октябре 2009 года у Густава Норена и его жены Перниллы родился сын, которого назвали Йозефом.