Учился на архитектурном отделении Одесского художественного института, затем с 1922 года в Академии художеств в Петрограде у Александра Матвеева. Окончил Академию художеств в 1926 году.
В 1927—1939 годах жил в Париже, был знаком и сотрудничал с известными французскими художниками и скульпторами — Бурделем, Деспио и другими, был дружен с известным советским писателем Ильёй Эренбургом, часто бывавшим в эти годы во Франции.
Вернувшись в Москву, преподавал в Строгановском училище, был наставником таких скульпторов, как Вадим Сидур, Андрей Красулин, Юрий Орехов, Александр Косолапов.
Скульптурами Саула Рабиновича украшен ряд станций Московского метрополитена, станция метро «Семёновская»[1], «Новокузнецкая», наземный павильон станции «Сокольники»[2]. Также его работа «Белорусские партизаны» украшает переход станции «Белорусская»[3].