11 сентября 1935 года впервые упоминается баскетбольная команда общества «Спартак». В Ленинграде в это время начался турнир приза имени Георгия Тищинского — старейшего ленинградского баскетболиста.
До войны «Спартак» два раза участвовал в чемпионатах СССР — в 1937 и 1940 гг. Победив в первых двух матчах, команда в 1/8 финала уступила «Строителю» из Тбилиси 20:22 и из розыгрыша выбыла. В 1940 году «Спартак» вновь вошел в число участников чемпионата СССР и в 9 матчах одержал 2 победы. Тренером в это время был Н. И. Кузнецов, а игроками — М. Морозов, В. Лесков, С. Мачигин, С. Серебров, М. Базаловский, А. Тащилов, Б. Степанов, А. Новожилов.
В 1940—1950-х годах ленинградский баскетбол был одним из сильнейших в стране. До 1958 года «Спартак» пребывал в тени «Буревестника», ЛЭТИ, СКИФа, участвовал в чемпионате города и всесоюзном первенстве «Спартака», а в 1958-м выиграл чемпионат Ленинграда и, заняв на турнире в Свердловске 2-е место, получил право играть в высшей лиге чемпионата СССР. В октябре 1958 года «Спартак» дебютировал в чемпионате СССР.
В 1969 году спартаковцы под руководством Владимира Кондрашина завоевали бронзовые медали чемпионата СССР, в 1970—1974 годах команда становилась серебряным призёром, а в 1975 году выиграла чемпионат страны.
В 1971 году «Спартак» вышел в финал Кубка обладателей Кубков европейских стран, а в 1973 и 1975 гг. стал победителем этого турнира. Команда ещё дважды становилась серебряным призёром чемпионата СССР — в 1976 и 1978 гг. В составе клуба играли: Александр Белов, Юрий Павлов, Леонид Иванов, Александр Большаков, Сергей Кузнецов, Андрей Макеев, Валерий Федоров, Юрий Штукин, Владимир Арзамасков, Михаил Силантьев.
Команда Кондрашина выигрывала «бронзу» чемпионата СССР в 1981, 1985—1987 годах. Цвета «Спартака» защищали Александр Харченков, Геннадий Капустин, Владимир Горин, Виктор Жарков, Андрей Тюбин, Александр Аверьянов,Сергей Гришаев, Андрей Мальцев, Геннадий Щетинин. В 1988-м Кондрашин, возглавлявший «Спартак» в течение 20 лет, покинул команду из-за конфликта. Без него команда боролось за место в Высшей лиге. Кондрашин вернулся в 1989-м.