Родился в Тифлисе в семье врача Самуила Цезаревича Вольпе (1861—?) и Флоры Яковлевны Вольпе (1871—?). Окончил историко-филологический факультет Бакинского университета (1925), посещал семинар, где преподавал поэт-символист Вячеслав Иванов[3]. В 1926 году переехал в Ленинград. Работал в ИЛЯЗВ (1926—1930). Аспирант Государственной академии искусствознания (1930—1933). Преподавал в вузах, одновременно был заведующим редакцией журнала «Литературная учёба» (1929—1930), заведующим библиографическим отделом журнала «Звезда» (1930—1933).
Был большим знатоком и классической русской поэзии (первая половина XIX века), и современной ему литературы. Он считался выдающимся специалистом по творчеству Жуковского (подготовил посвящённые Жуковскому тома Большой (2 т., 1939—1940) и Малой (1936) серии «Библиотеки поэта»), писал о Зощенко, подготовил к изданию тома Брюсова (1935), Андрея Белого (1940 в Малой серии «Библиотеки поэта»).
В 1933 году Вольпе, работавший тогда в журнале «Звезда», на свой страх и риск напечатал в журнале произведение Мандельштама «Путешествие в Армению»[4] и за это был уволен.
«Война застала его в Крыму. Он возвращался в Ленинград через Москву. Я, после тяжёлой медицинской операции, находилась в Переделкине, у Корнея Ивановича, вместе с Люшей. Перед отъездом в Ленинград Цезарь Самойлович пробыл у нас целый день. Тогда мы увиделись в последний раз»[5]
Ц.С. Вольпе вошёл в макаренковедение, как литературовед, представлявший произведения А.С. Макаренко на его встрече с ленинградскими читателями в середине октября 1938 г. (отчёт об этом был впервые обнародован в "УГ" в декабре 1940 г.)