Группа была образована 14 октября 2001 года и названа в честь столицы Кыргызстана, города Бишкека, телефонный код которого — 312.
Первый состав включал в себя четыре человека, однако вскоре после приезда в Москву гитарист группы, прежде участник группы «Аян», покинул новоиспечённый коллектив, не выдержав условий жизни в столице. На его место была принята гитаристка — Маша. За время своего существования группа сменила нескольких барабанщиков. Самым известным музыкантом-барабанщиком, игравшим с «Городом», был Игорь Джавад-Заде. Ещё до широкой известности песни «Останусь», «Город-рассвет» и «Вне зоны доступа» становились саундтреками к малоизвестным фильмам. Но всё по-настоящему завертелось, когда в 2005 году группа на свои собственные сбережения выпустила пластинку, получившую название «213 дорог» (палиндром к названию группы). В декабре 2005 года (3.12.2005) коллектив подписал контракт с компанией Real-Records. Продюсером группы является Андрей Борисович Лукинов.
Группа стала известна всей России в январе 2006 года после выхода клипа на песню «Останусь», ставшую саундтреком к фильму «Дневной Дозор». Затем с ажиотажем была принята композиция «Вне зоны доступа», ставшая саундтреком к фильму «Питер FM».
В 2006 вышла и первая номерная пластинка «Вне зоны доступа», в которую вошли новые песни и 8 ранее уже звучавших на неномерном альбоме старых композиций в новом звучании. Широкую популярность приобрела и песня «Фонари» из этого альбома.
Альбом приятно удивил публику разноплановостью звучания. «Горожане» не боялись звучать в абсолютно разных жанрах: от хеви до джаза и румбы; они пели песни о тоске по родному городу («Город-рассвет»), любви («Береги себя»), безденежье («По средствам»), мечтах и стремлениях («Небо в алмазах»).
В следующем, 2007 году выходит вторая номерная пластинка группы «Город 312» «Обернись». Среди песен были заметны такие хиты как «Девочка, которая хотела счастья», «213 дорог» и «Обернись».