Большая Конюшенная проходит от Конюшенной площади до Невского проспекта. Нынешнее название появилось 20 августа 1739 года[1]. В октябре 1918 года улицу переименовали в честь революционера-народника А. И. Желябова[1]. В рамках десоветизации 4 октября 1991 года улице вернули прежнее название[1].
Считается, что улица появилась на карте городе в 1730-е годы в результате работы Комиссии о Санкт-Петербургском строении, созданной императрицей Анной Иоанновной. Согласно разработанному плану, улица должна была располагаться параллельно реке Мойке и соединять Невский проспект и Конюшенную площадь, тогда бывшую ещё лугом. Вероятно, что дорога, перпендикулярная Невскому проспекту, существовала на этом месте и раньше. Своё имя улица получила после постройки Конюшенного двора — здания императорских конюшен на Конюшенной площади.
На первых порах Большая Конюшенная улица была тесно застроена невысокими деревянными домами, в которых находились различные лавки и ремесленные мастерские. Улица, как и близлежащие кварталы, были заселены приехавшим в Россию европейцами: немцами, шведами, голландцами, финнами. В дальнейшем Комиссия о Санкт-Петербургском строении рассудила, что плотная деревянная застройка улицы может стать причиной сильного пожара. Было решено заменить деревянные дома одно- или двухэтажными каменными зданиями. В конце царствования императрицы Елизаветы Петровны строить на Большой Конюшенной и набережной реки Мойки деревянные дома было окончательно запрещено, чтобы деревянные строения не портили парадного вида центральной части города.
18 октября 2011 года на улице установлены три скульптуры работы скульптора Василия Николаевича Аземши.
На Большой Конюшенной в разное время жили: писатель И. С. Тургенев (д. 13 в 1850—1860-х гг.), композитор Н. А. Римский-Корсаков (д. 11 в 1889-93), художник А. А. Рылов (д. 19), архитектор Н. А. Троицкий (д. 15), народный артист СССР В. И. Честноков (1944—1968, д. 1)[7].