Он родился в Дареме в семье строителя Эдварда Тейта и Джейн Бриггс. Он учился в Суррее , чтобы стать уэслианским миссионером, и провел десять лет на Фиджи . В 1860 году он женился на Элеоноре Сент, от которой у него было шестеро детей. Около 1871 года он переехал в Новый Южный Уэльс , а в следующем году был назначен министром в Армидейле . В 1872 году принц Джозеф Селуа из Фиджи приехал в Австралию и находился на попечении Тейта, пока не был зачислен в Ньюингтон-колледж . Его последующие должности были в Чиппендейле (1875 г.) и Гоулберне.(1878 г.), но он ушел из министерства в 1883 г. С 1884 г. он был олдерменом Гоулберна, а в 1887 г. занимал пост мэра . но не участвовал в повторном конкурсе в 1887 году. Тейт умер в Гоулберне в 1888 году .