Банковская система СССР первоначально формировалась в условиях перехода от политики военного коммунизма к новой экономической политике, реализуемой с 1921 года.
Союз Советских Социалистических Республик был образован 30 декабря 1922 года путём объединения РСФСР, Украинской ССР, Белорусской ССР и Закавказской СФСР в одно государство.
В это время в РСФСР уже существовал воссозданный в 1921 году Государственный банк РСФСР. Деятельность банка осуществлялась также и на территориях советских республик. Отдельных государственных банков Украинской ССР, Белорусской ССР и Закавказской СФСР не существовало. В указанных республиках открывались конторы Госбанка РСФСР
В 1922—1924 годах была проведена денежная реформа, направленная на создание твердой единой валюты советского государства.
С 1922 года в стране началось создание коммерческих банков, в том числе отраслевых акционерных банков (спецбанков) и обществ взаимного кредита, которые должны были осуществлять краткосрочное или долгосрочное кредитование определенных отраслей хозяйства.
В 1922—1925 годах был создан целый ряд специализированных банков: акционерные, в которых пайщиками были Госбанк, синдикаты, кооперативы, частные и даже одно время иностранные, для кредитования отдельных отраслей хозяйства и районов страны; кооперативные — для кредитования потребительской кооперации; организованные на паях общества сельскохозяйственного кредита, замыкавшиеся на республиканские и центральный сельскохозяйственные банки; общества взаимного кредита — для кредитования частной промышленности и торговли; сберегательные кассы — для мобилизации денежных накоплений населения. На 1 октября 1923 года в стране действовало 17 самостоятельных банков, а доля Госбанка в общих кредитных вложениях всей банковской системы составляла 2/3. К 1 октября 1926 года число банков возросло до 61, а доля Госбанка в кредитовании народного хозяйства снизилась до 48 %.