Первые попытки палеоклиматического толкования ископаемых органических остатков принадлежат английскому физику и математику Р. Гуку, установившему в 1686, что когда-то на Земле климат был более тёплым, и объяснившему этот факт изменением положения земной оси. Толчком к развитию палеоклиматологии послужило открытие и исследование в Европе следов четвертичного оледенения (одним из основоположников учения об оледенениях был Петр Кропоткин), которые стали главными объектами изучения палеоклиматологии. Однако сама наука ведёт начало лишь с 80-х гг. XIX века, когда в качестве показателей древних климатов начали использовать наряду с палеонтологическими данными литологические, которые в значительной степени зависят от климатических факторов и служат весьма ценными климатическими индикаторами: соль (аридный климат), бокситы и бобовая руда (чередование влажного и сухого тёплого климата), торф и каменный уголь, каолин (влажный климат), известняк (тёплый климат), ледниковые морены (холодный климат). Появляются монографии по истории древних климатов (французский учёный Э. Даке, 1915; немецкие — В. Кеппен и А. Вегенер, 1924; американский — К. Брукс, 1926; немецкий — М. Шварцбах, 1950), в которых развитие климата ставилось в зависимость от какого-либо одного фактора. Так, Брукс объяснял изменение климата палеогеографическими условиями, Кеппен и Вегенер — перемещением полюсов и дрейфом материков и т. п.
Большой вклад в её развитие как отдельной области знания сделал Альфред Вегенер. Он не только сделал много в деле создания палеоклиматических реконструкции, но и использовал их для восстановления расположения континентов и обоснования своей теории дрейфа материков — предтечи современной тектоники плит.
Мощнейшее развитие наука получила в конце XX — начале XXI веков в связи с возрастающей остротой проблемы изменения климата. Её решение или хотя бы понимание происходящего невозможно без тщательного изучения истории климата прошлых геологических эпох.
В конце XX века были проведены масштабные международные и междисциплинарные проекты по изучению климата. В их числе можно назвать бурение покровных ледников Антарктиды и Гренландии; бурение крупных континентальных озёр с длительной историей осадконакопления: Байкала, Иссык-Куля, Каспийского моря и некоторых других. В результате получено огромное количество новых данных об истории климата четвертичного и третичного периодов, однако создание климатической теории, объясняющей все факты, далеко от завершения. В научном сообществе нет единства по самым основополагающим вопросам.
В арсенале палеоклиматологии множество самых разнообразных методов, но именно это разнообразие нередко и приводит к противоречивым результатам. Это позволило одному известному палеоклиматологу в книге К.Ю. Еськова "Удивительная палеонтология" охарактеризовать состояние науки следующим образом: