Гипотеза в математике — утверждение, которое на основе доступной информации представляется с высокой вероятностью верным, но для которого не удаётся получить математическое доказательство[1][2]. Математическая гипотеза является открытой математической проблемой, и каждую нерешённую математическую проблему, которая является проблемой разрешимости, можно сформулировать в форме гипотезы. Однако в виде гипотезы может быть сформулирована не всякая математическая проблема. Например, конкретное решение некоторой системы уравнений или задачи оптимизации для 2208 неизвестных предугадать невозможно, но такое решение может быть не только практическим, но и собственно математическим результатом[3].
Гипотеза Римана, Великая теорема Ферма, гипотеза Варинга и некоторые другие математические гипотезы сыграли значительную роль в математике, поскольку попытки их доказательства привели к созданию новых областей и методов исследования.
В отличие от естественнонаучной гипотезы, математическая гипотеза может быть логически доказана в некоторой системе аксиом, после чего она становится теоремой, верной при этих ограничениях, «на все времена». Характерным примером является научное наследие Ньютона, заявлявшего, что он «гипотез не измышляет», и стремившегося в физике не выходить за рамки математической модели. Математические теоремы Ньютона, как и древнейшая теорема Пифагора, по сей день остаются в силе, однако его классическая механика и теория тяготения после появления специальной и общей теорий относительности стали опровергнутыми физическими гипотезами. Если разрешимая математическая гипотеза может быть либо доказана, либо опровергнута, то для естественнонаучной гипотезы в силу относительности естественнонаучного знания свойства верифицируемости и фальсифицируемости не исключают друг друга[4]. Механика Ньютона неприменима для скоростей, близких к скорости света, но с очень большой точностью описывает движение большинства тел Солнечной системы. Поэтому в физике обычно говорят не об опровержении гипотез, а об ограничении сферы применимости теории.
Математика основана на формальных доказательствах. Сколь бы убедительной гипотеза ни казалась, сколько бы ни было приведено примеров в её подтверждение, гипотеза может быть опровергнута одним контрпримером. Современные математические журналы иногда публикуют результаты исследований о диапазоне, в пределах которого справедливость гипотезы проверена. Например, гипотеза Коллатца проверена для всех целых чисел вплоть до 1,2 × 1012, однако этот факт сам по себе ничего не даёт для доказательства гипотезы.
Для доказательства гипотезы должно быть предъявлено математическое доказательство, которое путём логически безупречного рассуждения на основе некоторой системы аксиом делает единственно возможным утверждение гипотезы или логически невозможным противоположное утверждение.