Евсевий Кесарийский приводит имена непрерывного преемства епископов Иерусалима до года 324. Первые пятнадцать из этих епископов были христианами еврейского происхождения от Иакова до Иуды (ум. 135), остальные были обращёнными язычниками:
Следствием восстания Бар-Кохбы в 135 году стало решение Адриана искоренить иудаизм в Провинции Иудея. Провинция была переименована в Сирию Палестинскую. Неподалёку от руин Иерусалима был выстроен новый городок Элия Капитолина. Семейное наследование епископов Иерусалима было прервано (евреи были изгнаны из города), епископат Иерусалима был подчинён власти митрополитов Кесарии Палестинской. До установления системы патриархатов на Халкидонском соборе, сан митрополита был самым высоким епископским саном в христианской церкви.
Элия Капитолина [Иерусалим] получила особый статус VII правилом Первого Никейского собора в 325 году, но, тем не менее, епископы Иерусалима подчинялись митрополитам Кесарии Палестинской.
Халкидонский собор в 451 году узаконил институт патриархатов, и возвёл епископа Иерусалима в сан патриарха. Для византийской политики это означало, что Иерусалимская кафедра переходила из юрисдикции митрополита Кесарийского и становилась одним из пяти, утвержденных в Халкидоне патриархатов.
Одним из результатов Первого крестового похода в 1099 году стало создание Латинского Патриархата, с резиденцией в Иерусалиме с 1099 до 1187. Православные патриархи продолжали назначаться, но проживали в Константинополе.
В 1187 году, после поражения крестоносцев, латинский патриарх был вынужден бежать из региона. Пост латинского Патриарха Иерусалима остался, и латинские Патриархи продолжали назначаться Католической Церковью, но их резиденция с тех времён и до 1847 года находилась в Риме. Православный Патриарх возвратился в Иерусалим.