Родился в Вене. Его отец — Макс Голд — был крупным промышленником, мать — Жозефин Мартин — актрисой. В конце 1920-х годов семья поселилась в Берлине, откуда они были вынуждены бежать в 1930-х годах в связи с ростом антисемитских настроений в стране. Учился в школе Lyceum Alpinum Zuoz (Швейцария), в 1942 окончил Тринити-колледж Кембриджского университета (Англия). В 1942—1946 занимался радарными исследованиями в Британском адмиралтействе, в 1948—1952 преподавал в Кембриджском университете, в 1952—1956 — старший помощник королевского астронома в Гринвичской обсерватории. С 1957 жил в США. До 1959 — профессор астрономии Гарвардского университета, с 1959 — профессор астрономии Корнеллского университета и директор Центра радиофизики и космических исследований этого университета.
Круг научных интересов Голда очень широк. В космологии является одним из авторов (вместе с Г. Бонди и Ф. Хойлом) теории стационарной Вселенной (1948). Изучил свойства замкнутой Вселенной, в которой крупномасштабные вариации плотности могут рассматриваться как отдельные вселенные — подсистемы более низкого порядка. В рамках общей теории относительности обсудил вопросы, связанные с природой времени. Исследовал некоторые проблемы динамики Солнечной системы (движение оси вращения Земли, осевое вращение Меркурия, Венеры). Большое число работ посвятил происхождению и природе космических лучей, в частности изучал частицы высоких энергий, возникающие при вспышках на Солнце и ускоряемые в межпланетных магнитных полях. Разрабатывал теорию происхождения солнечных вспышек. Предложил объяснение мощного оптического и радиоизлучения квазаров как следствия столкновений звезд в этих системах. После открытия пульсаров в 1968 первым предложил модель этого феномена как быстро вращающейся нейтронной звезды. В этой модели магнитная ось звезды, одновременно являющаяся осью конуса, в котором сосредоточено мощное излучение, не совпадает с её осью вращения, и поэтому наблюдатель воспринимает излучение в виде импульсов. Рассмотрел пульсары как один из возможных источников космических лучей.